Immagine dal film Frankenstein del 1931 (pubblico dominio)
Nel 1797, all’alba dell’era industriale, Goethe compose la ballata dell’Apprendista Stregone, la storia di un giovane apprendista che, a causa della sua arroganza e della scarsa padronanza delle arti magiche, innesta una serie di circostanze che sfuggono al suo controllo.
Circa 20 anni dopo, la giovane Mary Shelley raccolse una sfida e scrisse un racconto paranormale, che lesse in occasione di un piccolo raduno presso il lago Lemano. Quel racconto diventò il celebre romanzo Frankenstein, o il moderno Prometeo e venne pubblicato il primo gennaio 1818.
Entrambi i romanzi raccontano la storia di due uomini che creano qualcosa che in seguito acquisisce una vita propria.
La ballata di Goethe raggiunge l’apice quando l’apprendista, in preda al panico, grida:
Illustrazione del poema di Johann Wolfgang von Goethe ‘L’apprendista Stregone’. (Dominio Pubblico)
Maestro, aiutami! Sbagliai a chiamarli, Ho evocato gli spiriti ma sono terribili, e non riesco a domarli
Alla fine, il maestro stregone arriva giusto in tempo per annullare il pericoloso incantesimo. Il romanzo di Mary Shelley invece, non si conclude altrettanto bene: il mostro costruito da Victor Frankenstein viene preso da un istinto omicida, e il suo creatore non ha modo di fermarlo.
Chi dei due ha previsto il futuro dell’umanità: Goethe o Shelley?
Duecento anni dopo la prima stesura di Frankenstein, questa domanda è più attuale che mai: oggi l’umanità deve affrontare gli effetti collaterali delle proprie creazioni, da Facebook, fino all’intelligenza artificiale e all’ingegneria genetica.
Ne usciremo sani e salvi o, come Victor Frankestein, saremo testimoni di «distruzione e infallibile miseria»?
SARÀ LA SCIENZA A SALVARCI?
Nella ballata di Goethe, il disastro viene sventato grazie a una maggiore padronanza della stessa magia, che in un primo momento aveva causato il problema. Oggi è stato coniato il termine ‘reflexivemodernity‘ cioè l’idea secondo cui la tecnologia moderna può risolvere tutti i problemi che ha creato, e che qualsiasi problema nasca da essa, può essere risolto con più tecnologia. Nel mondo ambientalista si parla di ecomodernismo. I transumanisti lo chiamano principio di proazione: «non limitarsi a prevedere prima di agire, ma imparare mentre si agisce»
Victor Frankenstein è disgustato dalla sua creazione. Incisione in acciaio di Theodor von Holst per l’edizione rivista Frankenstein del 1831 di Mary Shelley. (Dominio pubblico)
Frankenstein invece è un racconto precauzionale, il suo messaggio chiave è che, se pervaso dal desiderio di cambiare la natura, l’uomo rischia di danneggiare sé stesso. Victor Frankenstein riesce a realizzare la sua ambizione di «diventare più grande di quanto la sua natura gli permetta», ma finisce per compiangersi: «Imparate da me […] quanto può essere pericolosa la ricerca della ‘conoscenza’ e quanto è più felice quell’uomo che crede che la sua città natia sia il mondo»
Sembra avvertire l’umanità che l’hybris sarà la sua rovina.
LA NASCITA DEI REFUSENIK DELLA SILICON VALLEY
Sembra che oggi la stessa preoccupazione si sia insinuata tra scienziati, ingegneri e imprenditori: appaiono spaventati e spesso, dopo aver creato qualcosa, denunciano la loro stessa creazione.
Si stanno comportando come l’apprendista che chiama il maestro in cerca di aiuto? O come Frankenstein, impegnato nell’inutile tentativo di fermare qualcosa che è già fuori controllo?
Per esempio Sean Parker, co-fondatore di Napster e uno tra i primi ad aver investito su Facebook, ha recentemente annunciato di essere diventato un ‘obiettore di coscienza’ dei social network. Sostiene che Facebook stia danneggiando il cervello dei bambini e sfruttando la debolezza psicologica dell’essere umano.
Ma ci sono altri Refusenik della Silicon Valley. Justin Rosenstein, l’ideatore del pulsante dei ‘like’ di Facebook, ha cancellato l’app dal suo telefono, e ha accennato ad alcune problematiche, come la dipendenza, la ‘costante attenzione parziale’, e il pericolo che la democrazia finisca nelle mani dei social network. Gli ex collaboratori di Google, Tristan Harris e Loren Britcher, ideatori di un importante algoritmo usato da Twitter, stanno entrambi denunciando la pericolosità delle loro creazioni.
Anthony Ingraffea, ha trascorso i primi 25 anni della sua carriera da ingegnere cercando di rendere più efficiente il processo di estrazione dei combustibili fossili dalle rocce. Dal 1978 al 2003 ha lavorato a progetti di ricerca, governativi e privati, per perfezionare la fratturazione idraulica.
Le sue ricerche non sono state particolarmente fruttuose, ma quando è venuto a sapere che altri avevano ottenuto ‘grandi successi’, grazie all’utilizzo di ingenti quantità di agenti chimici e di acqua, è rimasto scioccato. Ha affermato «È stato come se, dopo aver lavorato a un progetto per una vita intera, fosse arrivato qualcuno che lo ha trasformato in Frankenstein». Negli ultimi dieci anni è diventato uno dei principali oppositori del fracking in America. L’industria che un tempo lo finanziava, ora lo denigra e lo attacca continuamente.
Jennifer Doudna. (CC BY-SA 3.0)
Jennifer Doudna, è una dei più importanti scienziati coinvolti nell’implementazione della nuova tecnologia per manipolare il Dna, nota come Crispr. Nel suo nuovo libro A Crack in Creation ha scritto che Crispr potrebbe eliminare molte malattie e migliorare la vita, ma potrebbe anche essere usato in modo simile all’eugenetica nazista. Doudna ha confessato di aver avuto degli incubi, in cui Hitler le chiedeva di spiegargli «l’uso e le implicazioni di questa straordinaria tecnologia».
Elon Musk, teme che con lo sviluppo dell’intelligenza artificiale si stia «invitando il diavolo», e secondo lui «è la più grande minaccia alla sopravvivenza dell’umanità». Musk è andato ben oltre l’impulso iniziale di Frankenstein di scappare dall’abominevole creatura: sta lavorando alla colonizzazione interplanetaria, così quando l’Ia prenderà il controllo della Terra, sarà possibile rifugiarsi su Marte.
TRATTARE LA TECNOLOGIA COME FOSSE UN FIGLIO
Elon Musk, fondatore e CEO di SpaceX e Tesla. (Kevork Djansezian/Getty Images)
L’antropologo Bruno Latour ha criticato pesantemente Musk per le sue dichiarazioni. Dal punto di vista di Latour, la morale di Frankenstein non è che bisogna smettere di creare mostri, ma piuttosto che dobbiamo prenderci cura dei nostri mostri. Il problema non è stata la hybris del Dr. Frankenstein ma la mancanza di sensibilità: ha abbandonato il ‘figlio’ invece di educarlo.
Latour ritiene che il progresso tecnologico non porterà al controllo totale e al distacco dal mondo, ma che gestire la tecnologia, così come essere genitori, richiederà sempre diverse forme di controllo, apprensioni e premure.
OpenAI, altro progetto ideato da Musk per sviluppare una tecnologia di intelligenza artificiale sicura, è molto più vicino al pensiero di Latour.
A quanto pare, Latour stesso sta mettendo in pratica i suoi consigli. Infatti in passato è stato tra i principali creatori di uno dei mostri più terrificanti dei nostri tempi. Questa creatura non è esattamente un prodotto della scienza, ma un modo di pensare la scienza stessa. Latour ha sempre cercato di mostrare che le evidenze scientifiche sono ‘costruite socialmente’, e che non esiste una verità oggettiva.
In breve, ha sostenuto che l’oggettività sia un inganno, e che la scienza non è mai veramente solida e certa.
Ora però, nell’era della post-verità, dei fatti alternativi, dei negazionisti del cambiamento climatico e dei Partisan Media Bubble, osserva inorridito gli effetti del suo spirito di decostruzione e sfiducia.
In una recente intervista, Latour ha ammesso che si sta pentendo dell’ ‘entusiasmo giovanile’ con cui ha attaccato la scienza, e si augura che le cose cambino: «Dobbiamo restituire autorità alla scienza. Siamo arrivati all’estremo opposto, rispetto a quando abbiamo iniziato i nostri studi scientifici»
L’ antropologo francese Bruno Latour (Miguel Medina/AFP/AFP/Getty Images).
Per prenderci cura dei nostri mostri, per capire quando agiscono male e per affrontare la situazione, dobbiamo stabilire alcuni principi, che provengono dagli istituti tradizionali: scienza, media e università. Latour ambiva a liberarci dal paternalismo degli esperti di queste istituzioni, e la sua era una missione nobile.
Ma l’effetto corrosivo di questo ‘acido’, unito al caos dei social network e all’avidità di alcune persone, è stato molto più profondo di quanto Latour avesse immaginato. Ora ci sono dubbi ovunque e tutto può essere impulsivamente additato come fake news. Il cambiamento climatico potrebbe essere un disastro per l’umanità, o una mistificazione. Chi può dirlo? E in mezzo alla paralisi generata dagli scetticismi, diventa molto difficile affrontare i mostri.
