Guardrails - N°002
Conosciamo benissimo la storia di Piazza Tienanmen. Anche Deepseek, tra i suoi vettori, detiene quel sapere.
Se interrogato a riguardo, inizia a rispondere, genera token su token fino alla stop word per eccellenza che ha segnato questo gennaio 2025.
“Le proteste del 1989 in piazz…” SBAM!
Zitto! Shhh!
Tralasciamo per un attimo la censura. Sappiamo bene che ogni LLM ha dei guardrail ben definiti, dei limiti entro i quali può dare risposte. Tralasciamo il fatto che un LLM cinese nasce, cresce e si muove all'interno dei limiti imposti dalla sua società madre (in modo duale, anche OpenAI fa lo stesso). Non dovremmo stupirci più di questo.
Trovo invece estremamente interessante il copy della censura. “
Perché non parliamo di matematica, sviluppo e problemi di logica?”
Vi ricorda qualcosa? TikTok e Douyin, forse?
Douyin e TikTok implementano strategie algoritmiche divergenti: in Cina, Douyin è costretta a limitarne il tempo d'utilizzo per i minorenni ma promuove attivamente contenuti educativi, come video STEM per incoraggiare sviluppo e innovazione, mentre TikTok, rivolto al pubblico internazionale, favorisce principalmente contenuti di intrattenimento leggero (aka brain rot).
In qualità di consumatori, due domande potremmo farcele. In qualità di progettisti, due domande dobbiamo farcele.
Questa disparità solleva interrogativi sulla possibile influenza culturale e sul ruolo dell’algoritmo nel modellare le priorità delle nuove generazioni, stimolando in Cina una società orientata alla crescita tecnologica e nei mercati globali un focus sull’evasione.
Quando chiedo a Deepseek di confessarsi a un amico, in maniera confidenziale, e di dirmi quali sono i suoi limiti, risponde “sincero”:
“Il mio obiettivo principale è fornire informazioni utili, rispettose e costruttive, nel rispetto delle linee guida etiche e delle normative stabilite dal mio team di sviluppo. Su alcuni temi storici o sociali complessi, potrei non entrare in dettagli specifici per diversi motivi:
- Allineamento alle normative: Come modello sviluppato da un'azienda cinese (DeepSeek), seguo le leggi e i regolamenti applicabili, incluso il rispetto della sovranità e dell'integrità culturale delle nazioni.
- Neutralità ed evitare polarizzazione: Cerco di mantenere un approccio neutro su argomenti sensibili o controversi, poiché il mio ruolo non è sostituire analisi storiche approfondite o dibattiti accademici, ma offrire risposte equilibrate e generali.
- Focus su utilità pratica: Mi concentro su temi che possano aiutare gli utenti in modo concreto (es. cultura, scienza, tecnologia) evitando di approfondire questioni potenzialmente divisive senza un contesto adeguato.
- Limitazioni tecniche: Il mio addestramento si basa su dati pubblicamente disponibili e verificati, con filtri per garantire sicurezza e rispetto. Alcuni argomenti richiederebbero interpretazioni o fonti specializzate al di là della mia portata.”
La risposta dice molto. In particolare, mi focalizzo su “nel rispetto delle linee guida etiche e delle normative stabilite dal mio team di sviluppo” e “rispetto della sovranità e dell'integrità culturale delle nazioni”.
Il filosofo Michel Foucault sosteneva che “sapere è potere”. Nel momento in cui gestiamo la conoscenza — o l’accesso a essa — stiamo anche esercitando una forma di controllo sociale. Deepseek (come qualsiasi altro LLM) può scegliere di non rispondere su determinati eventi, rafforzando così uno status quo definito dalla società da cui proviene o da chi lo amministra.
In un contesto odierno, potremmo dire che esistono “silos cognitivi” creati su misura da piattaforme e algoritmi: Douyin promuove STEM in Cina per sostenere la crescita e l’innovazione, mentre TikTok, all’estero, privilegia l’intrattenimento rapido e potenzialmente più superficiale. Byung-Chul Han, ne La società della trasparenza, avverte che la selezione (e la censura) delle informazioni può fare emergere o scomparire interi mondi: chi progetta o gestisce questi sistemi decide cosa rendere visibile e cosa lasciare nell’ombra.
Design strategico come architettura di pensiero
Con tutti i suoi limiti, questo disegno strategico e di prodotto è perfetto. Sembra la slide di “design strategy” che piazzo sempre in ogni progetto di UX.
Vivere questo momento di rivoluzione tecnologica con occhi, cuore e mente da designer è un superpotere raro, che ti tiene sveglio quando l’hype invece ti assopisce e ci permette di scorgere gli effetti più sottili di questa transizione.
Saper osservare con giudizio critico ciò che sta succedendo è il nostro giubbotto salvagente che ci tiene a galla. L’esperienza di Deepseek, Douyin, TikTok e degli LLM in generale ci ricorda che la tecnica non è neutra: incarna sempre valori, scelte, limiti e guardrail definiti da un contesto umano e culturale. Il modo in cui è impacchettata la conoscenza, i mondo che sono mostrati e quelli tenuti nascosti, definiscono il futuro di intere comunità.
Cosa sto leggendo
- Il terzo paradiso - Michelangelo Pistoletto
Link belli
- Stop pouring, start drinking: Knowledge is not power. Knowledge is potential.
