Il Red Hat Summit Connect torna anche quest’anno, consolidandosi come il principale evento in Italia dedicato all'innovazione tecnologica e al mondo open source. Le due tappe italiane, che si terranno il 7 novembre a Roma e il 19 novembre a Milano, rappresentano...
La nostra raccolta di articoli e approfondimenti tecnici
Una raccolta di video dai nostri eventi, webinar e molto altro
Una raccolta dei nostri Casi di successo
Il Red Hat Summit Connect torna anche quest’anno, consolidandosi come il principale evento in Italia dedicato all'innovazione tecnologica e al mondo open source. Le due tappe italiane, che si terranno il 7 novembre a Roma e il 19 novembre a Milano, rappresentano...
Nella versione di ElasticSearch 8.0 sono state introdotte diverse novità che vanno a migliorare la soluzione per velocità, scalabilità e semplicità e ottimizzazione nella ricerca soprattutto per il NLP.
Nello specifico sono state introdotte:
In questo breve estratto ci concentreremo nello scoprire le nuove funzionalità relative alla gestione, l’arricchimento del linguaggio naturale e quali sono i possibili utilizzi.
Per cominciare l’API di ricerca kNN esegue una ricerca k-nearest neighbor (kNN) sul campo dense_vector. Data una query, trova i k vettori più vicini e restituisce quei documenti come risultati di ricerca.
Elasticsearch utilizza l’ algoritmo HNSW per supportare una ricerca kNN efficiente.
Come la maggior parte degli algoritmi kNN, HNSW è un metodo approssimativo che sacrifica l’accuratezza dei risultati per una migliore velocità di ricerca. Ciò significa che i risultati restituiti non sono sempre i veri k vicini più prossimi.
HNSW è un algoritmo ANN che si inserisce nella categoria dei grafici. Si tratta di un grafo di prossimità, in cui due vertici sono collegati in base alla loro prossimità (i vertici più vicini sono collegati) spesso definito in distanza euclidea.
C’è un significativo salto di complessità da un grafico di “prossimità” a un grafico di “Hierarchical Navigable Small World”.
La ricerca vettoriale utilizzando i grafici Navigable Small World (NSW) è stata introdotta nel corso degli ultimi anni. L’idea è che, se prendiamo un grafo di prossimità ma lo costruiamo in modo da avere collegamenti sia a lungo che a corto raggio, i tempi di ricerca si riducono alla complessità (poli/)logaritmica.
Ogni vertice nel grafico si collega a molti altri vertici. Chiamiamo questi vertici connessi “amici” e ogni vertice mantiene “una lista di amici”, creando il nostro grafico.
Quando si cerca un grafico NSW, si inizia da un punto di ingresso predefinito. Questo punto di ingresso si collega a diversi vertici vicini. Identifichiamo quale di questi vertici è il più vicino al nostro vettore di query e ci spostiamo lì.
Ripetiamo il processo di ricerca greedy di spostamento da un vertice all’altro identificando quelli più vicini in ciascuna lista di amici. Alla fine, non troveremo vertici più vicini del nostro attuale: questo è un minimo locale e funge da nostra condizione di arresto.
L’introduzione di questo algoritmo al fianco del kNN permette di scalare con più facilità sui indici di grandi dimensioni.
La Vector Similarity permette di trasformare il testo in formato vettoriale. Questo tipo di testo vettorizzato permette di fare un ranking più preciso, non solo sulla frequenza della parola ma anche sul significato, e quindi aggregarlo ai singoli termini all’interno dei nostri file.
Utilizzando modelli di deep learning sul testo è possibile associare le immagini relative alle parole che stiamo cercando.
In breve la Vector Similarity permette di trovare similitudini all’interno di dati non strutturati, come quelli testuali.
Oltre a riuscire a manipolare in modo migliore il testo e i dati non strutturati, con l’introduzione al supporto di modelli che sfruttano PyTorch, è possibile arricchirlo con diversi task di NLP e rendere a tutti gli effetti il testo una nuova sorgente da cui poter estrarre informazioni in modo avanzato.
L’elaborazione del Natural Language Processing si riferisce al modo in cui possiamo utilizzare il software per comprendere il linguaggio naturale.
Negli ultimi anni, tuttavia, le tecniche di deep learning hanno preso il sopravvento su gran parte del panorama del NLP. Il deep learning sfrutta la disponibilità di set di dati su larga scala, calcoli economici e tecniche per l’apprendimento su larga scala con un minore coinvolgimento umano. I modelli linguistici pre-addestrati che utilizzano questa architettura hanno avuto particolare successo.
Ad esempio, BERT è un modello linguistico pre-addestrato che è stato rilasciato da Google nel 2018. Da allora, è diventato l’ispirazione per la maggior parte delle moderne tecniche di NLP di oggi. Le funzionalità di machine learning di Elastic Stack sono strutturate attorno ai modelli BERT e Transformer. Queste funzionalità supportano lo schema di tokenizzazione di BERT (chiamato WordPiece) e modelli conformi all’interfaccia del modello BERT standard.
Per incorporare modelli e fare previsioni, Elasticsearch utilizza libtorch, che è una libreria nativa sottostante PyTorch. I modelli addestrati devono trovarsi in una rappresentazione TorchScript per l’uso con le funzionalità di machine learning di Elastic Stack.
Queste operazioni sono facilmente implementabili utilizzando Eland, un client Python Elasticsearch per esplorare e analizzare i dati in Elasticsearch con un’API compatibile con Pandas, e i modelli pre-trained che sono a disposizione sulla piattaforma HuggingFace.