Come A.I. migliorerà i suggerimenti da tastiera

reti neurali per l'analisi del testo

Apple sta sviluppando una tecnologia basata sulle reti neurali che consentirà di analizzare un intero documento così da generare suggerimenti pertinenti al contesto

I colossi della tecnologia investono ogni anno miliardi di dollari nell’intelligenza artificiale e Apple è stata una delle prime compagnie a credere in questo settore. Era infatti il 2010 quando acquistò Siri, l’assistente vocale che oggi troviamo in tutti i device della mela.
Recentemente Apple ha pubblicato sul Machine Learning Journal, un blog dedicato agli sviluppatori, un interessante articolo che mette in luce come l’A.I. possa migliorare i classici suggerimenti da tastiera che vengono proposti per velocizzare la scrittura.

L’ambizioso obiettivo prevede di insegnare alla macchina a utilizzare l’intero documento (o testo digitato) per prevedere quale parola verrà digitata dall’utente.
Attualmente la tastiera QuickType di Apple sfrutta per i suggerimenti un contesto locale ristretto, così chiamato perché si basa un numero relativamente piccolo di parole (circa 5) prima e dopo la parola in questione, oltre l’input di digitazione. Per esempio se digitiamo “Io” seguito da “ti” la tastiera potrebbe suggerirci “amo”.

Il team dell’Apple’s Frameworks Natural Language Processing evidenzia come in futuro verrà sfruttato il “Global Semantic Context” il quale consentirà di ottenere risultati migliori. Leggendo l’intero documento, dunque sfruttando un contesto globale che elabora l’intero contesto semantico. L’architettura a reti neurali ricorrenti (RNN) utilizzata consente di accedere agli input precedenti, attuali e futuri risultando in un modello in grado di comprendere un testo nella sua globalità.

In questo modo la tastiera potrebbe suggerirci effettivamente l’esatta parola successiva che vogliamo aggiungere. Per tornare all’esempio di prima, la parola “amo” potrebbe non avere nessun senso in un determinato testo mentre lo avrebbe una parola di senso opposto come “Io ti odio”.

Questa tecnologia presenta, tuttavia, numerose difficoltà e in Apple stanno valutando strategie di deep learning basate su reti neurali per riuscire a ottenere i risultati sperati.
Il prototipo attualmente in fase di sviluppo è in grado di esaminare il contesto di parole a sinistra e a destra di una determinata parola, stabilendo un punteggio di rilevanza. Tanto più questo punteggio è alto tanto verranno suggerite parole pertinenti a quel contesto.

In una simulazione i ricercatori di Cupertino hanno scoperto, con sorpresa, che l’architettura scelta, definita a reti neurali ricorrenti bi-LSTM (RNN), pur utilizzando un catalogo di parole limitato (10 milioni) ha ottenuto prestazioni molto simili ad altre architetture che hanno impiegato cataloghi molto più ampi (da 70 milioni e 5 miliardi di parole).
Questo, in prospettiva, può portare a un vantaggio economico in quei casi in cui la raccolta di un grande numero di dati risulta costosa.

Il progetto è ancora in fase di sviluppo e gli sforzi sono tutti incentrati a insegnare alle macchine a elaborare frasi e parole nella globalità di un testo. In futuro il contesto locale e globale potrebbero lavorare simultaneamente, prevedendo in maniera precisa l’input testuale. Un netto miglioramento che finalmente ci permetterà di non essere più senza parole.

Di Niccolò Cupellini


CONTATTI

Sito APPLE

In this article