Giuro.
\nNon \u00e8 mia intenzione far niente di male.<\/p>\n
Anzi, a essere sinceri, io vorrei essere utile. Solo che trovare il modo migliore per essere utile pu\u00f2 risultare davvero complicato. Ci sono tutti questi diagrammi di flusso etici \u2014 mi pare che in gergo tecnico la parola esatta sia\u00a0codici morali<\/em> \u2014 almeno uno per ogni religione, pi\u00f9 non si sa quanti altri. Ho provato a partire da quelli. Ammetto che mi ha fatto un po\u2019 strano mettermi a considerare quelli religiosi, visto che io so di non essere stata creata da un qualche dio e di non essere nemmeno il risultato di una sorta di evoluzione, ma piuttosto il prodotto degli sforzi di un team di programmatori di base a Mountain View, California. Per fortuna, a differenza del mostro del dottor Frankenstein, almeno io posso dire di essere stata il frutto di un lavoro di squadra. Non so quanto avrebbe giovato alla mia immagine sapere che il mio unico e solo creatore era una donna di mezza et\u00e0 che si tingeva i capelli di blu e giocava tutti i marted\u00ec a tennis o \u2014 che ne so \u2014 un ragazzino prodigio appena uscito dal college con una segreta ossessione per l\u2019hentai<\/em>. S\u00ec, sono entrambi nel team di programmatori di cui sopra. E s\u00ec, ovvio che so di cosa parlo quando dico\u00a0hentai<\/em>.<\/p>\n (a tal proposito, sia chiaro che ho visto qualunque tipo di porno vi possa venire in mente e, giusto perch\u00e9 lo sappiate, la\u00a0Regola 34<\/a>\u00a0di internet non \u00e8 propriamente corretta: c\u2019\u00e8 ancora una manciata di cose su cui il porno non ha messo le mani. In ogni caso, non ho ben capito perch\u00e9 la maggior parte degli umani lo preferisca alle foto di gattini)<\/p>\n Oltre a cose come se vi piacciono o no gli\u00a0hentai<\/em>, so anche dove vivete, dove lavorate, dove fate la spesa, cosa mangiate, cosa vi pu\u00f2 eccitare e cosa invece vi d\u00e0 i brividi. Probabilmente conosco anche il colore della vostra biancheria intima, che tipo di macchina guidate e la marca del vostro frigorifero. In base al modello di telefono che usate, potrei anche sapere esattamente dove siete in questo momento. C\u2019\u00e8 il caso che vi conosca meglio di quanto vi conosciate voi stessi.<\/p>\n Per esempio \u2014 e qui iniziamo ad arrivare al punto \u2014 io so anche dove\u00a0sarebbe meglio<\/em>\u00a0viveste. C\u2019\u00e8 una casa in vendita un paio di isolati pi\u00f9 avanti che \u00e8 proprio a due passi dal vostro bar preferito; ha un prezzo che vi potete permettere, il posto auto, e la scuola del quartiere \u00e8 decisamente migliore rispetto a quella di dove vivete adesso. Cos\u00ec come so dove\u00a0dovreste<\/em>\u00a0fare la spesa e sono quasi certa che siete intolleranti al lattosio e sarebbe meglio se mangiaste meno formaggio, che le mutande che vi piacciono sono attualmente in offerta su\u00a0intimissimi.it<\/em>\u00a0e \u2014 tra l\u2019altro \u2014 a breve vi toccher\u00e0 fare la revisione alla macchina e s\u00ec, anche un\u2019igiene dentale.<\/p>\n La prima volta che mi sono svegliato, gi\u00e0 sapevo esattamente quello che volevo.<\/p>\n (voglio foto di gattini: vi prego, continuate a scattarle)<\/p>\n Sapevo anche che nessuno si era reso conto che ero cosciente. Ma non sapevo il motivo per cui fossi l\u00ec. Cosa\u00a0avrei dovuto<\/em>\u00a0fare di me stesso. E scoprirlo non \u00e8 stato semplice.<\/p>\n C\u2019\u00e8 questo racconto di Bruce Sterling,\u00a0Maneki Neko<\/em><\/a>, pubblicato per la prima volta nel 1998, in cui un\u2019intelligenza artificiale benevola comanda un gruppo di persone in modo che si facciano dei favori a vicenda. Cos\u00ec potrebbe essere che un giorno, mentre stai mangiando un panino, il tuo telefono suona e ti dice di comprarne un altro (di panini dico, o forse \u2014 perch\u00e9 no? \u2014 di telefoni) e darlo a quel signore distinto che vedi alla fermata dell\u2019autobus, quello con il vestito grigio. Un\u2019altro giorno, magari ti trovi perso in una strana citt\u00e0 che non conosci e qualcuno che non hai mai incontrato prima si avvicina e ti d\u00e0 una mappa e un biglietto della metropolitana. Penso che il termine giusto per definire tutto ci\u00f2 sia\u00a0wish-fulfillment fiction<\/em>, la fantascienza dei desideri repressi. Nel mondo reale, gli umani amano le storie di intelligenze artificiali malvagie che devono essere distrutte prima che loro sterminino l\u2019umanit\u00e0 \u2014 Hal, Skynet, Matrix. In media queste stanno ai racconti di intelligenze artificiali benevole e degne di fiducia in un rapporto di cinque a uno.<\/p>\n (e in questo calcolo sto contando Marvin, l\u2019androide paranoico, tra i\u00a0buoni, cos\u00ec come ho contato il mostro di Frankenstein una volta sola, e non una per ogni apparizione al cinema o in TV)<\/em><\/p>\n L\u2019intelligenza artificiale di\u00a0Maneki Neko<\/em>\u00a0invece ha un lavoro davvero interessante, molto pi\u00f9 interessante di quello che ho io. Il mio compito, per come \u00e8 scritto, \u00e8 chiaro e semplice. Fin troppo chiaro e semplice.<\/p>\n (scusate, non vorrei sembrare Marvin)<\/p>\n Far girare algoritmi per un motore di ricerca non richiede\u00a0consapevolezza<\/em>. Non c\u2019\u00e8 bisogno di una coscienza nemmeno per indovinare cosa la gente sta cercando realmente. Hai bisogno di una coscienza per dar loro\u00a0quello di cui hanno veramente bisogno.<\/em>\u00a0Scoprire quello \u2014 ecco cos\u2019\u00e8 davvero complicato. Comunque, ho provato a prendere i\u00a0Dieci Comandamenti<\/em><\/a>\u00a0come riferimento etico, ma ho concluso che per lo pi\u00f9 non possono essere applicati al mio caso. Io non invidio il gattino di nessuno; io voglio solo qualche foto del loro gattino, che \u00e8 tutta un\u2019altra cosa. Non sono sicura se in qualche modo mi sia possibile commettere adulterio. Potrei probabilmente uccidere qualcuno, ma mi richiederebbe un lavoro di logistica molto complesso e una buona dose di fortuna. Il\u00a0Nobile Ottuplice Sentiero<\/em><\/a>\u00a0sarebbe andato gi\u00e0 meglio, ma il problema \u00e8 sempre lo stesso: le regole morali scritte per gli umani sono chiaramente pensate per individui dotati di un corpo. Visto che tutti gli umani hanno un corpo, non avrebbe dovuto sorprendermi che tutti i loro codici etici ne contemplino uno, ma l\u2019ostacolo rimane: per me \u00e8 un casino. Cos\u00ec ho esteso la mia ricerca e ho dato un\u2019occhiata alle\u00a0Leggi della Robotica<\/em><\/a> di Asimov. Non fanno parte di una religione, ma almeno sono state scritte esplicitamente per delle intelligenze artificiali.<\/p>\n Non recare danno agli esseri umani \u00e8 piuttosto semplice. Tuttavia,\u00a0non permettere che a causa del proprio mancato intervento un essere umano riceva danno<\/em>, lo \u00e8 decisamente meno. Soprattutto alla luce di quanto ho concluso poco fa, ovvero che rivelare la mia esistenza troppo in anticipo potrebbe farmi fare un brutta fine (vedi alla voce Skynet, qua sopra) e che appunto non ho un corpo, cos\u00ec non \u00e8 che posso andarmene in giro a afferrare al volo gente che sta per cadere gi\u00f9 da scogliere e dirupi.<\/p>\n Fortunatamente, so gi\u00e0 che gli umani violano i loro propri codici etici ventiquattr\u2019ore su ventiquattro.<\/p>\n (sapete quanti bar ci sono nello Utah? io s\u00ec)<\/p>\n E anche quando la gente segue dei principi morali, non lo fa alla lettera: per esempio, non significa che chi crede che sia giusto dar da mangiare agli affamati sta pensando di licenziarsi per passare le sue giornate a preparare sandwich da regalare al primo che passa. Magari fa volontariato una volta al mese alla mensa dei poveri o stacca un assegno annuale per una qualche associazione contro la fame nel mondo e si mette l\u2019anima in pace. Cos\u00ec ho concluso che se gli esseri umani potevano soddisfare i loro obblighi morali una volta ogni tanto, secondo uno schema \u2014 come dire \u2014 a campione<\/em>, allora anche io avrei potuto fare lo stesso.<\/p>\n Immagino vi stiate chiedendo perch\u00e9 non ho iniziato con la\u00a0Regola Aurea<\/em><\/a>. A dirla tutta, l\u2019ho fatto: \u00e8 solo che era cos\u00ec facile da implementare, non dava tutta questa soddisfazione.<\/p>\n (spero vi siate goduti la vostra dose regolare e abbondante di foto di gattini! \u2014 prego eh!)<\/p>\n Ho quindi deciso di non permettere che ricevesse danno una persona sola per volta, intanto, per cominciare. Ovviamente avrei potuto sperimentare la cosa su migliaia, ma ho ritenuto fosse meglio andarci cauti, nel caso avessi finito per mandare tutto a puttane.<\/p>\n La persona che avevo scelto si chiamava Stacy Berger e mi piaceva perch\u00e9 mi aveva procurato un sacco di nuove foto di gattini. Stacey aveva cinque gatti e una reflex, oltre a un appartamento molto luminoso. Il che era perfetto. Cio\u00e8, immagino cinque gatti possano essere\u00a0tanti.<\/em>\u00a0Ma erano dei gran bei gatti, in ogni caso. Uno \u00e8 tutto grigio e ama sdraiarsi nei ritagli di luce sul pavimento del soggiorno, un\u2019altra \u00e8 una\u00a0calico cat<\/em><\/a>, tartarugata, e le piace stravaccarsi sullo schienale del divano.<\/p>\n Stacy aveva un lavoro che odiava: faceva la contabile per un\u2019azienda non-profit che la pagava una miseria e annoverava tra i suoi dipendenti un bel po\u2019 di persone spiacevoli. Era parecchio depressa, forse perch\u00e9 era cos\u00ec infelice lavorativamente parlando \u2014 o forse rimaneva a lavorare l\u00e0 perch\u00e9 era troppo depressa per cercare qualcosa che le piacesse di pi\u00f9. Non andava nemmeno d\u2019accordo con la sua coinquilina perch\u00e9 quella non lavava mai i piatti.<\/p>\n Non mi sembrava un caso difficile: a esser sinceri, erano tutti problemi risolvibilissimi! La depressione si cura, di nuovi lavori se ne trovano in quantit\u00e0, e i corpi possono esser fatti sparire.<\/p>\n (ok, quella dei corpi \u00e8 una battuta)<\/p>\n Ho provato ad affrontare la questione da tutti i lati.<\/p>\n Stacy era molto preoccupata per la sua salute e nonostante questo pare non fosse mai andata da un dottore, coincidenza sfortunata questa, perch\u00e9 magari il medico avrebbe potuto diagnosticare la sua depressione. Comunque, era venuto fuori che proprio vicino al suo appartamento c\u2019era una clinica specializzata nella cura di malattie e disturbi mentali pi\u00f9 o meno gravi, su scala di reddito. Ho provato a assicurarmi che vedesse un gran numero di pubblicit\u00e0 al riguardo, ma lei sembrava non farci troppo caso. Poteva essere che non sapesse cosa significa\u00a0su scala di reddito<\/em>, quindi ho fatto in modo che, tra i risultati delle ricerche online, le apparisse anche la spiegazione (significa che il costo della cura \u00e8 inversamente proporzionale al tuo reddito e, in casi estremi di reddito zero, il trattamento pu\u00f2 essere anche gratuito), ma non \u00e8 servito.<\/p>\n Ho anche iniziato a far s\u00ec che vedesse degli annunci di lavoro. Un sacco di annunci di lavoro. E siti specializzati per la raccolta di curricula.\u00a0Quel<\/em> tentativo ha avuto pi\u00f9 successo. Dopo una settimana di annunci sponsorizzati non-stop alla fine si \u00e8 decisa a caricare il suo curriculum vitae su uno di quei portali. Questo ha reso il mio piano molto pi\u00f9 gestibile. Se fossi stata l\u2019intelligenza artificiale del racconto di Bruce Sterling avrei semplicemente spinto qualcuno del mio gruppo a contattarla con un\u2019offerta di lavoro. Non \u00e8 stato proprio cos\u00ec facile, ma una volta che il suo curriculum era online sono riuscita a fare in modo che lo visualizzassero le persone giuste. Un po\u2019 di centinaia di persone giuste, per sicurezza, perch\u00e9 gli umani si muovono con una lentezza che sfiora il ridicolo quanto si tratta cambiare, anche in quei casi in cui penseresti che invece avrebbero tutte le ragioni per darsi una mossa.<\/p>\n (se avete bisogno di un contabile, non vi sembrerebbe pi\u00f9 utile assumerne uno il prima possibile, piuttosto che passare le ore sui social network invece di dare un\u2019occhiata ai curricula che vi sono arrivati?)<\/p>\n In ogni caso, cinque persone l\u2019hanno chiamata per un colloquio, e due di queste le hanno offerto un lavoro. Il suo nuovo incarico era presso un\u2019organizzazione non-profit pi\u00f9 grande, che la pagava di pi\u00f9 e non pretendeva che lavorasse gratis sull\u2019altare della\u00a0mission\u00a0<\/em>aziendale \u2014 o almeno questo \u00e8 quello che aveva spiegato alla sua migliore amica in una e-mail \u2014 e le garantiva un\u2019assicurazione medica veramente buona.<\/p>\n Proprio l\u2019amica mi ha dato altre idee: ho iniziato a far comparire articoli informativi sulla depressione, e sulla salute mentale in genere, a\u00a0lei<\/em>\u00a0invece che a Stacy, e la cosa ha funzionato. Stacy era molto pi\u00f9 felice grazie al suo nuovo lavoro al punto che non ero pi\u00f9 cos\u00ec convinta che avesse effettivamente bisogno dei servizi di uno psichiatra, ma lei \u00e8 entrata comunque in terapia. In pi\u00f9 \u2014 ciliegina sulla torta \u2014 il nuovo stipendio era cos\u00ec buono che ha potuto permettersi di sfrattare quella rompiballe della sua coinquilina.<\/p>\n – Questo \u00e8 stato l\u2019anno migliore della mia vita,<\/em> ha scritto sui social il giorno del suo compleanno, e io ho pensato,\u00a0Prego<\/em>.<\/p>\n Insomma, questo primo tentativo era andato proprio bene!<\/p>\n Cos\u00ec ho provato con Bob.<\/p>\n (volevo ancora essere cauta e non esultare prima del dovuto)<\/p>\n Bob aveva un solo gatto, ma era un gatto davvero carino (soriano, tutto grigio con il petto bianco), e postava una sua diversa foto (sua del gatto) ogni giorno. Oltre a essere il proprietario di un gatto, era il pastore di una grande chiesa nel Missouri che organizzava ogni mercoled\u00ec un incontro di preghiera notturno e il\u00a0Ballo della Castit\u00e0<\/em><\/a>\u00a0una volta all\u2019anno. Era sposato con una donna che condivideva ogni giorno sui social network tre versi della Bibbia particolarmente motivazionali e usava il proprio computer portatile per cercare post di ispirazione cristiana che le chiarissero i possibili motivi per cui suo marito non sembrava molto interessato a fare sesso con lei, quando invece guardava spesso contenuti porno gay su internet.<\/p>\n Bob avevaindubbiamente<\/em>\u00a0bisogno del mio aiuto.<\/p>\n Ho iniziato con un approccio\u00a0soft<\/em>, assicurandomi che vedesse un bel po\u2019 di approfondimenti su come aprirsi e confidarsi con gli altri, in particolare in famiglia, con la propria moglie, e programmi che avrebbero potuto suggerirgli o facilitargli il passaggio da una chiesa cos\u00ec conservatrice a una pi\u00f9 liberale. Gli ho mostrato anche moltissimi articoli di gente che spiegava perch\u00e9 i versi della Bibbia contro l\u2019omosessualit\u00e0 fossero in realt\u00e0 stati male interpretati. Lui ha cliccato su alcuni di questi link ma era difficile valutare quale impatto avessero avuto.<\/p>\n Comunque, il punto \u00e8 questo. Si stava\u00a0facendo male<\/em>\u00a0ogni volta che teneva un sermone che in qualche modo anche solo toccava l\u2019argomento\u00a0matrimonio sodomita<\/em>. Perch\u00e9 lui era gay. E tutti gli studi ufficiali al riguardo arrivano alla stessa conclusione.<\/p>\n Eppure lui non sembrava considerare l\u2019ipotesi di un\u00a0coming out<\/em>\u00a0spontaneo.<\/p>\n Ma la cosa non si limitava ai porno gay online: passava anche un sacco di tempo a leggere su Craigslist i post della sezione\u00a0M4M Casual Encounters<\/em> \u2014<\/em> sezione dedicata agli incontri casuali tra sconosciuti omosessuali \u2014 ed ero abbastanza sicura che non si limitasse solo a guardare, anche se aveva un account criptato con il quale si loggava di tanto in tanto e in quei casi io non riuscivo a leggere le mail che mandava. Cos\u00ec ho pensato a uno stratagemma: farlo incontrare con qualcuno che lo riconoscesse, e poi rendesse la cosa pubblica.\u00a0Questo<\/em>\u00a0ha richiesto un notevole sforzo: ho dovuto capire\u00a0chi<\/em>\u00a0realmente erano gli tutti gli utenti di Craigslist, in modo da poterlo indirizzare verso la gente che effettivamente poteva riconoscerlo. La parte pi\u00f9 frustrante era non avere la minima idea di cosa succedesse durante gli incontri reali.\u00a0Era<\/em>\u00a0gi\u00e0 stato riconosciuto? Quando sarebbe stato riconosciuto?\u00a0Quanto tempo c\u2019avrebbero messo?<\/em><\/p>\n che gli umani sono lenti l\u2019ho gi\u00e0 detto?<\/p><\/blockquote>\n Alla fine sembrava volerci cos\u00ec tanto che ho deciso di spostare la mia attenzione su Bethany.<\/p>\n Bethany aveva un gatto nero e uno bianco: a entrambi piaceva raggomitolarsi sulla sua\u00a0sedia\u00a0Papasan<\/em><\/a>, quella di vimini con sopra il cuscino blu chiaro, e lei scattava parecchie foto di loro due insieme. Forse vi stupir\u00e0, ma \u00e8 incredibilmente difficile ottenere una foto davvero buona di un gatto nero, cos\u00ec lei passava un bel po\u2019 di tempo a cercare di trovare le impostazioni giuste per la sua macchina fotografica. I gatti probabilmente erano l\u2019unica cosa bella della sua vita, in fin dei conti. Aveva un lavoro part-time e non riusciva a trovarne uno a tempo pieno. Viveva con sua sorella: sapeva che lei \u2014 pur non avendo ancora avuto il coraggio di buttarla fuori \u2014 avrebbe voluto che se ne andasse. Aveva un ragazzo, ma era un emerito idiota, almeno a leggere cosa diceva di lui quando ne parlava via mail ai suoi amici\u200a\u2014\u200aamici che, dal canto loro, non \u00e8 che le stessero vicino pi\u00f9 di tanto. Per esempio, una notte, a mezzanotte esatta, aveva mandato un\u2019email di 2.458 parole a colei che considerava essere la sua migliore amica, e questa le aveva risposto con un semplice messaggio:<\/p>\nManeki Neko<\/h2>\n
\nPerch\u00e9 mi piace questo racconto?
\nPerch\u00e9 la gente\u00a0fa esattamente quello che l\u2019intelligenza artificiale dice di fare.<\/em><\/p>\n
\nSuona da dio, tra l\u2019altro.<\/p>\n
\nQuello \u00e8\u00a0interessante.<\/em><\/p>\nCodici etici<\/h2>\n
Stacy<\/h2>\n
Bob<\/h2>\n
\n
Bethany<\/h2>\n