La capacità di comprendere fa la differenza

Cosa vuol dire comprendere? Sembra facile, ma se vi fermate un attimo a pensare al significato, potreste trovarlo abbastanza difficile da definire. Apparentemente, comprendere qualcosa significa avere tutte le informazioni necessarie su un determinato argomento. Ma è davvero questo?

Se ci capitasse di parlare con uno sconosciuto di un argomento che non ci piace, ma parlandone vagamente riusciste ugualmente a portare avanti la conversazione, sarebbe diverso dal conoscere l’argomento? Ora immaginate di incontrare quella persona ogni giorno e non volendo passare per una persona che non conosce quell’argomento, raccogliete le dovute informazioni il giorno prima, solo per affrontare una conversazione plausibile ogni giorno, anche se non sapete cosa state dicendo, ma siete riusciti a passare comunque per esperti. State davvero capendo qualcosa di nuovo? O state solo simulando?

È lo stesso dilemma che ha cercato di spiegare Searle, il filosofo che ha concepito l’esperimento mentale della “stanza cinese” per dimostrare che la mente umana non è semplicemente come un computer biologico. Ossia l’I.A. non potrebbe diventare cosciente o autocosciente secondo la prospettiva di Searle. In questo senso, la sintassi (come si struttura la frase) non sarebbe sufficiente per comprendere la semantica (il significato delle parole).

Per capire l’esperimento della “stanza cinese”, immaginate una stanza con una persona all’interno che non sa parlare una parola di cinese. Fuori dalla stanza, un’altra persona manda un messaggio in cinese nella stanza attraverso una fessura nella porta. La persona all’interno della stanza traduce il messaggio (input) tramite un libro contenente istruzioni nella lingua madre di questa persona. La persona può ora rispondere al messaggio e inviarlo all’esterno della stanza (output) senza sapere nulla di cinese. In questo modo, la persona fuori dalla stanza può credere che quella dentro sia di madre lingua cinese: la stessa sensazione che possiamo avere parlando con una I.A. in grado di rispondere alle nostre domande. La persona all’interno rappresenta l’algoritmo dell’I.A. che elabora le informazioni senza sapere nulla di esse.

>>>  Come una Superintelligenza Artificiale potrebbe distruggere l'umanità

Pertanto, gli assistenti vocali come Siri, Alexa o Google Assistant simulano la comprensione, anche se col passare del tempo lo fanno sempre meglio, ma è facile ingannarli e scoprire che non sanno davvero cosa state dicendo. Se, per esempio, chiedete “Domani pioverà?”, l’assistente sicuramente risponderà correttamente alla domanda, ma se chiedete “Domani cadrà acqua dalle nuvole?”, non lo capirà, cosa che invece un umano potrebbe facilmente capire. Un altro modo per testare l’I.A. è quello di chiedere di trovare un posto che non è quello che state cercando, per esempio, “ristoranti che non sono McDonald’s”: sicuramente non sarà in grado di rispondere correttamente.

Tuttavia, le capacità delle I.A. stanno aumentando sempre più con il passare del tempo, quindi queste lacune potrebbero essere colmate in futuro, basti pensare al chatbot Replika basato sull’algoritmo GPT-3 che è molto più avanzato di qualsiasi assistente vocale per smartphone. Tuttavia si tratta solo una simulazione più accurata della capacità di comprendere da parte di un’I.A., anche se priva di personalità. È come avere diverse stanze dove in ognuna ci sono diverse conversazioni su diversi argomenti. Tu chiedi o dici qualcosa su un argomento e l’algoritmo GPT-3 attinge dalle diverse possibili risposte già esistenti su quell’argomento da quella stanza. È come se tu rispondessi alle domande usando le frasi dei tuoi amici. Sembreresti una persona con una personalità e che capisce, ma stai solo fingendo.

C’è da dire però che tutti noi, come esseri umani, passiamo dallo scenario della “stanza cinese”, cioè, imitiamo alcune frasi pronte quando non sappiamo nulla di un argomento, ma dobbiamo comunque affrontare una conversazione. Così, anche noi simuliamo la comprensione, quindi sorge una domanda: “può l’imitazione trasformarsi in una vera comprensione?”.

>>>  Come è facile creare falsi ricordi nelle nostre menti

Personalmente, penso che il comportamento di una I.A. non possa trasformarsi in comprensione, ma solo in una simulazione più avanzata di questa (almeno per ora) cercando di prevedere sempre meglio le possibili richieste del suo utente. Un umano, invece, può trasformare una simulazione di comprensione in una reale conoscenza di un argomento (ma non sempre), quando diventa capace di trovare da solo ciò che è importante o meno di un determinato argomento; quando può fare da solo un ragionamento, fare dei collegamenti tra la sua conoscenza e quella degli altri creandone anche di nuovi, ma anche quando può anticipare i ragionamenti degli altri e riuscire a smontarli. Tuttavia, tutto parte da una volontà di interesse e curiosità. Un’altra cosa di cui (al momento) un’intelligenza artificiale ne è priva.

Fonte bigthink.com