Ho sempre ragione - N°010

Questa settimana torniamo a parlare di AI; mi nascono molti interrogativi quando guardo Noah e penso al suo futuro.

Per la nostra salute mentale, fortunatamente il metaverso è stato una cagata pazzesca ed è stato dimenticato dai più. Dall'altra, sospetto che l'AI rimarrà.

Da qualche tempo mi sto interrogando, da bravo marinaio forse un po' in anticipo, sul tipo di principi che vorrei passare a Noah, specialmente in relazione alla tecnica e in relazione ai pappagalli stocastici altresì chiamati ChatGPT, Gemini, Grok, Claude e gli altri.

Questi compagni di viaggio così apparentemente perfetti rischiano davvero di diventare la nostra Her? Probabilmente per chi, adulto, ha sviluppato un certo senso critico, no. Dall'altra, un bambino o adolescente corre il rischio di trovare più rassicurante parlare con una AI che con un compagno di classe. Di fatto, una AI può comportarsi da psicologo, da sparring partner e da amico di penna in maniera perfetta. Puoi vomitargli di tutto addosso che sarà sempre paziente, sempre disponibile, non ti dirà mai "boh" o "che cazzo dici?!". Non si stanca di leggerti, non ti ghosta con la doppia spunta blu e ora ha una voce ancora più umana (avete sentito che ChatGPT prende fiato tra una frase e l'altra? WTF!).

Non è che stiamo crescendo una generazione di mozzi che preferiscono la rassicurante monotonia dell'autopilota emotivo al brivido incerto di tenere il timone tra le onde delle relazioni umane?

Priming e system prompt

Se provate a chiedere un feedback su un vostro comportamento, un vostro dubbio, una turba che vi portate a letto la sera, riceverete sempre una risposta apparentemente perfetta. Ogni LLM ha la sua personalità, dal democristiano LLama, al più spavaldo Grok e al grigio ChatGPT. Dettagli scriptati nel prompt di sistema che descrive sostanzialmente come e con che tono parlarci. L'unica strada per farci rispondere con fermezza ed umanità è fare il dovuto priming, ovvero un override parziale del system prompt. Per esempio "Sei uno psicologo che non le manda a dire, con una inclinazione buddhista ma anche un po' cazzone e divertente". A pensarci bene però, così stiamo progettando il nostro interlocutore, dandogli una forma che ci piace. Non so se sia la strada migliore, richiede sforzo ed impegno e di default rafforza la nostra bolla. A competere con la voglia di crescere, abbiamo a che fare una AI che ci coccola emotivamente. Chi potrà mai vincere nel lungo periodo? Nel tentativo di rendere l'AI più "umana", abbiamo reso il confronto con l'umanità vera, quella fatta di giornate storte, incomprensioni e goffaggini, un'esperienza quasi... difettosa. L'algoritmo diventa il benchmark, e noi, poveri scafi pieni di falle emotive e riparazioni improvvisate, siamo quelli che non sono all'altezza.

Navigare a vista?

Qui la faccenda si fa filosofica. Ci stiamo abituando ad essere sempre meno tolleranti con la complessità umana (noiosa, che richiede tempo, ascolto vero, e magari anche qualche discussione). Inoltre, il rischio è che anche le interazioni umane diventino come interfacce: input, output, risultato atteso. Se non arriva, è un bug del sistema "umano"con il rischio di atrofia della nostra capacità di navigare le emozioni complesse. Di costruire legami che richiedono vulnerabilità, riparazioni e l'accettazione che non sempre si capisce subito dove sta andando l'altro.

Stiamo perdendo la capacità di navigare a sentimento, di leggere le stelle dell'empatia, perché ci affidiamo a un GPS emotivo che ci dà sempre la rotta più "efficiente". Ma efficiente non significa necessariamente "ricca" o "vera".

Torniamo a sporcarci le mani (e il cuore)

Allora, che si fa? Si butta a mare tutta la tecnologia? Ovviamente no. Vi sfido a gestire il vostro home banking, aprire il menu del ristorante in PDF o mandare la foto del nipote alla nonna con un Light Phone III. Ma forse dobbiamo reimparare a scegliere quando affidarci all'autopilota e quando tenere salda la barra, anche se il mare è mosso.

1. Bentornata, Maretta Emotiva: Facciamo che l'incertezza, il "non lo so", il "parliamone meglio" siano parte del viaggio. La chiarezza guadagnata con fatica vale di più di quella servita senza richiesta.
2. Un'AI Meno Perfetta: ben vengano score sempre più alti sui test, ma lasciamo che mostri qualche crepa, che ammetta di "non sapere", che magari ogni tanto "perda la bussola". L'imperfezione è un dono.
3. Come in pozzetto: Creiamo spazi offline sacri. Come in pozzetto in barca, il luogo più romantico e umano dove creare momenti in cui si parla senza filtri, senza paura di essere goffi o lenti. Lì si impara davvero a stare con quello che c'è.
4. Quella sana diffidenza: diffidiamo delle risposte troppo facili. Impariamo a chiederci: chi ha programmato questa "bussola"? Cosa non vede? Dove non può arrivare? La scorciatoia non è sempre la via migliore.
5. Quattro Chiacchiere Sotto Coperta: Troviamo il tempo per conversazioni reali, anche quelle scomode, quelle che magari finiscono in un "non ci siamo capiti". È lì che si vede la stoffa del marinaio, non nella bonaccia perenne.

L'ironia finale sarebbe scoprire che, nel tentativo di creare compagni di viaggio perfetti, abbiamo reso noi stessi meno interessanti, meno capaci di affrontare l'imprevedibilità dell'oceano vero. Stiamo forse barattando la capacità di navigare per davvero con la comoda illusione di una crociera senza onde?

Voi che rotta state tenendo?

Buon vento (e occhi aperti sulla bussola interiore).

Cosa sto leggendo

• Pensieri lenti e veloci

Link belli