Integrazione di Apache Hive con Spark

TL;DR

This paper discusses integrating Apache Hive with Spark using the Hive Warehouse Connector to enable efficient data transfer and analysis between SQL and NoSQL systems leveraging Spark's distributed computing capabilities.

Contribution

It introduces the use of Hive Warehouse Connector APIs to facilitate interoperability and data operations between Hive and Spark, enhancing data accessibility outside the Ambari cluster.

Findings

Successful implementation of Hive-Spark integration

Improved data transfer efficiency between systems

Enhanced data accessibility for analysis

Abstract

English. This document describes the solutions adopted, which arose from the need to transfer a large amount of information between the most famous distributed SQL and NoSQL storage systems to perform analysis and/or modification operations exploiting the peculiarities of the same. The goal was achieved using the Spark engine and studying and using the open source library "Hive Warehouse Connector" made by Hortonworks. It provides new interoperability features between Hive and Spark. The choice fell on these APIs in order to take advantage from Spark's distributed computing through Spark-Sql libraries, to allow a quick reading and writing on the databases chosen by the Network Contacts Systems Engineering Team and to make the stored information available for consultation outside the Ambari cluster. Italiano. Il presente documento descrive le soluzioni adottate, nate dalla necessit\`a di trasferire un elevato numero di informazioni tra i pi\`u famosi sistemi distribuiti di archiviazione SQL e NoSQL per effettuare operazioni di analisi e/o modifica sfruttando le peculiarit\`a degli stessi. L'obiettivo \`e stato raggiunto utilizzando l'engine Spark e studiando e utilizzando la libreria open source "Hive Warehouse Connector" messa a disposizione da Hortonworks che fornisce nuove funzionalit\`a di interoperabilit\`a tra Hive e Spark. La scelta \`e ricaduta su queste API per poter avvalersi del calcolo distribuito di Spark mediante le librerie di Spark-Sql, per consentire una rapida lettura e scrittura sui database scelti dal team di Ingegneria dei Sistemi di Network Contacts al fine di rendere consultabili le informazioni archiviate all'esterno del cluster Ambari.