Weizenbaum - Computer Power and Human Reason | A | plus
[1]
[1.1/1-80-826|1768]
1 Computer e società: automazione, decisione e limiti
Tabulatrici, ricerca operativa, guerra, psicoterapia e scelte scientifiche: una critica del calcolatore tra indispensabilità, decisione e limiti.
La riflessione verte sul rapporto tra computer, società e decisione umana. Le tab rooms sono presentate come la fase precedente: “Tab rooms were the horse-tramways of business data processing, tab machines the horses” - (fr:499) [Le tab rooms erano le tramvie a cavalli dell’elaborazione dati aziendale, le tabulatrici i cavalli.] Le imprese usarono i primi computer per automatizzare quelle procedure: “business used the early computers to simply ‘automate’ its tab rooms, i.e., to perform exactly the earlier operations, only now automatically and, presumably, more efficiently” - (fr:502) [Le imprese usarono i primi computer semplicemente per “automatizzare” le proprie tab rooms, cioè per eseguire esattamente le operazioni precedenti, ora automaticamente e, presumibilmente, con più efficienza.] La transizione verso l’uso attuale si ebbe quando la potenza del calcolatore fu proiettata sul quadro della ricerca operativa e dell’analisi dei sistemi (fr:503).
Il testo contesta l’indispensabilità assoluta: “The Manhattan Project produced the atomic bomb without using electronic computers; yet the scientific and engineering problems solved under its auspices required probably more computations than had been needed for all astronomical calculations performed up to that time” - (fr:427) [Il Progetto Manhattan produsse la bomba atomica senza usare calcolatori elettronici; eppure i problemi scientifici e ingegneristici risolti sotto i suoi auspici richiesero probabilmente più calcoli di quanti ne fossero serviti per tutti i calcoli astronomici eseguiti fino ad allora.] Denuncia inoltre il mito delle decisioni automatiche: “There is a myth that computers are today making important decisions of the kind that were earlier made by people” - (fr:574) [C’è un mito: che i computer prendano oggi decisioni importanti del tipo che prima erano prese dalle persone.] La crescente dipendenza da sistemi che hanno superato la comprensione degli utenti è indicata come sviluppo molto serio: “Our society’s growing reliance on computer systems that were initially intended to ‘help’ people make analyses and decisions, but which have long since both surpassed the understanding of their users and become indispensable to them, is a very serious development” - (fr:3469) [La crescente dipendenza della nostra società da sistemi informatici inizialmente destinati ad “aiutare” le persone a fare analisi e decisioni, ma che da tempo hanno superato la comprensione dei loro utenti e sono diventati loro indispensabili, è uno sviluppo molto serio.] I sistemi di regole incorporati diventano immuni al cambiamento e possono solo crescere (fr:3472).
Nei contesti applicativi, il testo registra la guerra del Viet Nam: “computers operated by officers who had not the slightest idea of what went on inside their machines effectively chose which hamlets were to be bombed” - (fr:3495) [Computer azionati da ufficiali che non avevano la minima idea di ciò che accadeva dentro le loro macchine scelsero di fatto quali villaggi bombardare.] Registra anche la proposta terapeutica: “If the method proves beneficial, then it would provide a therapeutic tool which can be made widely available to mental hospitals and psychiatric centers suffering a shortage of therapists” - (fr:120) [Se il metodo si dimostra benefico, allora fornirebbe uno strumento terapeutico che può essere reso ampiamente disponibile a ospedali psichiatrici e centri di salute mentale che soffrono di carenza di terapeuti.] Ma respinge l’installazione di computer come psicoterapeuti: “I therefore reject Colby’s proposal that computers be installed as psychotherapists, not on the grounds that such a project might be technically infeasible, but on the grounds that it is immoral” - (fr:3960) [Respingo quindi la proposta di Colby di installare i computer come psicoterapeuti, non perché il progetto possa essere tecnicamente irrealizzabile, ma perché è immorale.] Rileva infine i limiti operativi: “Computers perform prodigious ‘intellectual feats,’ such as beating champion checker players at their own game and solving huge systems of equations, but cannot change a baby’s diaper” - (fr:3046) [I computer compiono prodigiose “imprese intellettuali”, come battere campioni di dama al loro stesso gioco e risolvere enormi sistemi di equazioni, ma non possono cambiare il pannolino a un bambino.] La scelta scientifica dipende dai valori e dal costo degli errori: “My scientific choice depends on my values … because consistent choices under uncertainty can only be made by looking at the cost of making alternative kinds of errors” - (fr:3879) [La mia scelta scientifica dipende dai miei valori … perché scelte coerenti in condizioni di incertezza possono essere fatte solo guardando al costo di commettere tipi alternativi di errori.]
[2]
[2.1/1-80-937|2775]
2 Linguaggi formali, giochi astratti e macchine universali
Alfabeti, regole di transizione e procedure effettive: dai giochi formali alla macchina universale.
Le procedure effettive sono definite come insiemi di regole che indicano a un agente come comportarsi da un momento all’altro: “Such a set of rules—that is, a set of rules which tells a player precisely how to behave from one moment to the next—is called an effective procedure” - (fr:717) [Un insieme di regole che dice a un giocatore precisamente come comportarsi da un momento all’altro è chiamato procedura effettiva]. Un linguaggio formale è caratterizzato da “an alphabet; a set of formation rules … and a set of transformation rules for such expressions” - (fr:922) [un alfabeto; un insieme di regole di formazione … e un insieme di regole di trasformazione per tali espressioni]. Il rapporto con i giochi è esplicito: “a language is a game played with a certain alphabet and governed by a set of transformation rules, and that a computer is an embodiment of those rules” - (fr:1533) [un linguaggio è un gioco giocato con un certo alfabeto e governato da un insieme di regole di trasformazione, e un computer è l’incarnazione di quelle regole]. La macchina di Turing universale opera con due simboli e imita un’altra macchina nell’esecuzione di una procedura: “there exists a Turing machine U … whose alphabet consists of the two symbols “0” and “1” such that, given any procedure written in any precise and unambiguous language and a Turing machine L embodying the transformation rules of that language, the Turing machine U can imitate the Turing machine L in L’s execution of that procedure” - (fr:941) [esiste una macchina di Turing U … il cui alfabeto consiste dei due simboli “0” e “1”, tale che, data una qualsiasi procedura scritta in un linguaggio preciso e non ambiguo e una macchina di Turing L che incarna le regole di trasformazione di quel linguaggio, la macchina di Turing U può imitare la macchina di Turing L nell’esecuzione di quella procedura]. Le regole di trasformazione sono sintattiche e non dipendono da interpretazioni esterne: “all their transformation rules are purely syntactic … independent of any interpretation such symbols may have outside the framework of the language itself” - (fr:1036) [tutte le loro regole di trasformazione sono puramente sintattiche … indipendenti da qualsiasi interpretazione che tali simboli possano avere al di fuori del linguaggio stesso]. La tesi di Church e Turing afferma che “any process we can describe in terms of a Turing machine is an effective procedure, and vice versa” - (fr:960) [qualsiasi processo descrivibile in termini di una macchina di Turing è una procedura effettiva, e viceversa]. L’assembler incarna le regole di trasformazione che portano al linguaggio macchina: “An assembler is a procedural embodiment of well-determined rules that tell how to transform expressions composed on a certain alphabet into expressions composed on a much smaller alphabet” - (fr:1553) [Un assembler è l’incarnazione procedurale di regole ben determinate che dicono come trasformare espressioni composte su un certo alfabeto in espressioni composte su un alfabeto molto più piccolo]. Il linguaggio naturale è invece privo della precisione dei linguaggi di programmazione: “they understand communications couched in natural languages (e.g., English) that lack, by very far, the precision and unambiguousness of ordinary programming languages” - (fr:2745) [comprendono comunicazioni espresse in linguaggi naturali (ad es. l’inglese) che mancano, di gran lunga, della precisione e non ambiguità dei linguaggi di programmazione ordinari]. Resta aperta la domanda “Would any set of syntactic rules, however detailed, and any computing speed, and any size dictionary suffice to produce high-quality translations?” - (fr:2791) [Basterebbe un qualsiasi insieme di regole sintattiche, per quanto dettagliato, una qualsiasi velocità di calcolo e un dizionario di qualsiasi ampiezza a produrre traduzioni di alta qualità?]. La conoscenza scientifica certa è riferita ai sistemi formali come “games invented by man himself” - (fr:249) [giochi inventati dall’uomo stesso].
[3]
[3.1/1-80-1381|1454]
3 Dal foglio di lavoro al linguaggio macchina: istruzioni, indirizzi e controllo
Un esecutore letterale, operazioni elementari e indirizzi: la riduzione del calcolo a sequenze di comandi.
Il calcolo avviene su un foglio di lavoro: le righe contengono operazioni, gli operandi sono in caselle come la scatola A, e il risultato vi viene memorizzato. “box A always contains the implicit or unmentioned operand when one is needed” - (fr:1454) [la scatola A contiene sempre l’operando implicito o non menzionato quando serve]. L’ordine di esecuzione è sequenziale: “obey the instructions on the worksheet in the sequence in which they are written unless a specific instruction tells him to do otherwise” - (fr:1489) [obbedire alle istruzioni del foglio nella sequenza in cui sono scritte, salvo che un’istruzione specifica disponga altrimenti]. Per tenere traccia dell’istruzione corrente si introduce la scatola P: “We should then appoint a supervisor whose job is to tell the worker on what line he is to find his instruction, namely, the line whose address is stored in box P” - (fr:1494) [Dovremmo allora nominare un supervisore il cui compito è dire al lavoratore su quale riga trovare la sua istruzione, cioè la riga il cui indirizzo è conservato nella scatola P]. L’effetto di un’istruzione che disturba il flusso sequenziale è “to replace the contents of box P with the address of the next instruction that is to be obeyed” - (fr:1495) [sostituire il contenuto della scatola P con l’indirizzo della prossima istruzione da eseguire]. Il calcolo della radice quadrata compare come sottoproblema, ad esempio nella ricerca delle radici di un’equazione quadratica: “which involves the computation of the square root of some number as a subproblem” - (fr:1350) [che comporta il calcolo della radice quadrata di un certo numero come sottoproblema]. Il foglio della radice quadrata può essere richiamato come subroutine: “This fragment calls the square-root subroutine and also assures that control will return to the main routine” - (fr:1385) [Questo frammento chiama la subroutine della radice quadrata e assicura che il controllo ritorni al programma principale]. Nella codifica per la macchina le operazioni diventano codici operativi: “the byte-length code for ADD is “00110101”” - (fr:1485) [il codice di lunghezza byte per ADD è “00110101”]. Un’istruzione viene decodificata separando il codice operativo dalla parte di indirizzo: “a component (say, its eight leftmost bits) that is the instruction’s operation code, and another component (its remaining bits) that is its address portion” - (fr:2134) [una componente, per esempio gli otto bit più a sinistra, che è il codice operativo dell’istruzione, e un’altra componente, i bit rimanenti, che è la parte di indirizzo]. A livello fisico i risultati restano nei flip-flop: “results of computations, i.e., of information transformations, performed during active periods are stored in flip-flops” - (fr:1219) [i risultati delle computazioni, cioè delle trasformazioni di informazione, eseguite durante i periodi attivi, sono conservati nei flip-flop]. Circuiti con porte AND, OR e NOT sommano cifre binarie: “a circuit whose components are AND, OR, and NOT gates and whose function is to arithmetically add two binary digits” - (fr:1197) [un circuito i cui componenti sono porte AND, OR e NOT e la cui funzione è sommare aritmeticamente due cifre binarie].
[4]
[4.1/1-80-4503|3013]
4 Scienza come autorità esclusiva e programmatore compulsivo
Fede scientifica, computer come sistema autovalidante, responsabilità di scienziati e insegnanti.
Il testo raccoglie osservazioni sulla trasformazione della scienza in autorità unica e sulla figura del programmatore compulsivo come manifestazione di un pensiero autovalidante. La scienza, nel senso comune, “è diventata l’unica forma legittima di comprensione” e “l’attribuzione di certezza al sapere scientifico da parte del senso comune ha delegittimato tutti gli altri modi di comprendere” (fr:274); essa è descritta come “un veleno ad azione lenta” (fr:235). La scienza empirica poggia su “sabbie mobili del giudizio umano fallibile, della congettura e dell’intuizione” (fr:253). Le contraddizioni non producono abbandono delle teorie: “le credenze scientifiche sono difese dagli stessi dispositivi che proteggono i sistemi di credenze magiche” (fr:2019), e “elaborazioni epicicliche senza limiti” offrono “una riserva inesauribile di spiegazioni sussidiarie” (fr:1993). Il quadro scientifico del mondo è “inadeguato” perché “il potere non è la stessa cosa della comprensione” (fr:2041); la scienza e la tecnologia moderne sono affette dalla “sindrome della ricerca dell’ubriaco” (fr:2075). In parallelo, il programmatore compulsivo è accostato al giocatore d’azzardo: manifesta “una pulsione implacabile e priva di piacere alla rassicurazione” (fr:1936) ed è “convinto che la vita non sia altro che un programma” (fr:2017). Il computer è “una versione estrema di un potere inerente a tutti i sistemi di pensiero autovalidantisi” (fr:2080); una “nozione troppo semplicistica dell’intelligenza” alimenta la “perversa grande fantasia” dell’intelligenza artificiale (fr:3013). A fronte di ciò, l’insegnante di informatica deve “resistere alla tentazione dell’arroganza” e insegnare “la validità e la legittimità del sapere più morbido” (fr:4127); chi tenta di porre limiti alla ricerca incontra un “serio dilemma” perché gli appelli a principi superiori non sono riconosciuti come legittimi (fr:3919).
[5]
[5.1/1-80-2183|2341]
5 Formalizzazione, simulazione e intelligenza artificiale
Modelli del mondo, macchine e confini del pensiero computabile.
Le frasi collegano la costruzione di modelli fisici formali, la simulazione e l’intelligenza artificiale. In fisica, quantità di moto, accelerazione e forza sono introdotte come relazioni formali: la quantità di moto è il prodotto di massa e velocità, l’accelerazione è la variazione della velocità nel tempo, la forza è il prodotto di massa e accelerazione (fr:2182); la forza è inoltre “any influence capable of producing a change in the motion of a body” - (fr:2183) [qualsiasi influenza capace di produrre un cambiamento nel moto di un corpo]. Da queste relazioni deriva un modello di caduta in cui l’altezza è data da quota meno il prodotto dell’accelerazione per il quadrato del tempo diviso due (fr:2276), incorporato in un programma che itera e visualizza coordinate (fr:2281, fr:2290); il computer è interpretato come un sistema che simula l’oggetto in caduta (fr:2292). Lo stesso modello è applicabile a una caduta dalla superficie lunare, assegnando l’accelerazione opportuna e considerando le variazioni del campo gravitazionale (fr:2330, fr:2331, fr:2334). Le macchine che interagiscono con il mondo reale devono incorporare leggi che sono un sottoinsieme delle leggi del mondo fisico (fr:642); un progetto è un’idea astratta non vincolata dalle leggi fisiche (fr:659), ma per intervenire su dispositivi reali serve conoscenza fisica pertinente (fr:1801). Sul versante dell’intelligenza artificiale, il metodo GPS impiega oggetti, operatori, differenze e obiettivi: “IF an object is given that is not the desired one, differences will be detectable between the available object and the desired object” - (fr:2607) [se è dato un oggetto che non è quello desiderato, si rilevano differenze tra l’oggetto disponibile e quello desiderato], e gli operatori riducono tali differenze (fr:2610). Questa impostazione fornisce una struttura comune a programmi per aree diverse (fr:2690), ma in quanto tale non contiene principi (fr:2682). Per il linguaggio naturale, Schank propone una struttura formale delle basi concettuali, meccanismi di previsione e regole di analisi (fr:2876) e cerca una rappresentazione formale della base concettuale (fr:2973); Winograd opera nel mondo limitato dei blocchi con istruzioni in linguaggio naturale (fr:2902), ma riconosce che i sistemi hanno toccato solo “the tiniest bit of the relevant knowledge” - (fr:2966) [la minima parte della conoscenza rilevante], mentre Miller giudica assurdo pretendere di impartire a una macchina le strutture concettuali complesse del pensiero (fr:2966). L’idea di una base concettuale interlingue viene valutata come priva di contributo: “What is contributed when it is asserted that ‘there exists a conceptual base that is interlingual…’? Nothing at all” - (fr:2970) [cosa si aggiunge quando si asserisce che “esiste una base concettuale interlingue…”? Niente]. La questione di fondo è se ogni aspetto del pensiero umano sia riducibile a un formalismo logico e interamente computabile: “whether or not every aspect of human thought is reducible to a logical formalism, or, to put it into the modern idiom, whether or not human thought is entirely computable” - (fr:210) [se ogni aspetto del pensiero umano sia riducibile a un formalismo logico, o, per dirla in termini moderni, se il pensiero umano sia interamente computabile]. I termini simbolici di una teoria non sono mai definitivamente ancorati alla realtà: “the symbolic terms of a theory can never be finally grounded in reality” - (fr:2176) [i termini simbolici di una teoria non possono mai essere definitivamente ancorati alla realtà]. Gödel ha mostrato che ogni sistema formale interessante contiene enunciati indecidibili con i mezzi del sistema stesso: “every interesting formal system has some statements whose truth or falsity cannot be decided by the formal means of the system itself” - (fr:3277) [ogni sistema formale interessante ha enunciati la cui verità o falsità non può essere decisa con i mezzi formali del sistema stesso]. L’accoppiamento tra quadro concettuale e visione dell’uomo come oggetto fisico spinge alla conclusione che l’uomo possa essere progettato e costruito su specifica (fr:2381), mentre un robot adeguatamente costruito può sviluppare un modello di sé assimilabile a una forma di autocoscienza (fr:3111). Le teorie stesse sono quadri concettuali: restringendo il significato di “tutto”, si può dimostrare che una teoria rende conto di “tutto” il comportamento linguistico umano (fr:2999).
[6]
[6.1/1-80-2459|2220]
6 Programmi informatici come modelli e teorie dei processi cognitivi
Simulare la mente: programmi tra teoria, prestazione e limiti della comprensione.
Le frasi vertono sul rapporto tra programmi informatici, teorie e modelli dei processi cognitivi. Una teoria scritta in forma di programma è presentata come teoria e, quando viene eseguita, come modello a cui la teoria si applica: “A theory written in the form of a computer program is thus both a theory and, when placed on a computer and run, a model to which the theory applies.” - (fr:2248) [Una teoria scritta in forma di programma per calcolatore è così sia una teoria sia, quando viene collocata su un computer ed eseguita, un modello a cui la teoria si applica.] In psicologia, il programma di Feigenbaum punta a produrre “in the form of a computer program, a model of cognitive processes whose over-all behavior would closely approximate that of human subjects engaged in memorizing nonsense syllables” - (fr:2459) [in forma di programma per calcolatore, un modello dei processi cognitivi il cui comportamento complessivo si avvicini a quello di soggetti umani impegnati a memorizzare sillabe senza senso]; lo stesso programma è descritto come modello di una teoria psicologica e come teoria esso stesso (fr:2674), e rifiuta la sola prestazione perché memorizzare tutto in una sola prova non spiegherebbe i processi umani (fr:2510). La ricerca in intelligenza artificiale è distinta in tre modalità: “the so-called performance, simulation, and theory modes” - (fr:2733) [le cosiddette modalità di prestazione, simulazione e teoria]. Sul versante del linguaggio naturale, ELIZA impiega un copione psichiatrico capace di formulare “local predictions about sentences and textual fragments” - (fr:2865) [previsioni locali su frasi e frammenti testuali]. I programmi basati su teoria permettono di diagnosticare gli errori a partire dalla teoria (fr:3409), mentre i programmi accresciuti per aggiustamenti parzialmente compresi diventano opachi: il programmatore perde la capacità di prevedere il comportamento e osserva i risultati come se il programma fosse un individuo dal comportamento incerto (fr:3449).
[7]
[7.1/1-80-2647|2659]
7 La teoria dell’elaborazione dell’informazione nel problem solving umano: Newell, Simon e il GPS
Uomini e calcolatori come specie dello stesso genere “sistema di elaborazione dell’informazione”: il General Problem Solver, i suoi metodi e le critiche alle sue pretese di generalità.
Le frasi convergono sulla teoria dell’elaborazione dell’informazione applicata al problem solving. Il presupposto di base è che il calcolatore programmato e l’uomo che risolve problemi appartengano allo stesso genere: “programmed computer and human problem solver are both species belonging to the genus ‘Information Processing System’” - (fr:2560) [il calcolatore programmato e l’uomo che risolve problemi sono entrambe specie appartenenti al genere “sistema di elaborazione dell’informazione”]. Newell e Simon costruiscono il General Problem Solver, indicato come il sistema più ambizioso per lo studio di questo comportamento - (fr:2587) [Il sistema di elaborazione dell’informazione più ambizioso costruito per studiare il comportamento umano di risoluzione dei problemi è il General Problem Solver (GPS) di Newell e Simon]. I suoi metodi principali incarnano l’“heuristic of means-ends analysis” - (fr:2588) [l’euristica dell’analisi mezzi-fini]; l’analisi del GPS classifica le cose in base alle funzioni e oscilla tra fini, funzioni richieste e mezzi - (fr:2605) [classificare le cose in base alle funzioni che svolgono e oscillare tra fini, funzioni richieste e mezzi per realizzarle]. La teoria postula un sistema semplice: il comportamento complesso deriverebbe dall’interazione tra ambiente e pochi parametri di base, in particolare le memorie - (fr:2564) [Il comportamento apparentemente complesso del sistema di elaborazione dell’informazione in un dato ambiente è prodotto dall’interazione tra le richieste dell’ambiente e pochi parametri di base del sistema, in particolare le caratteristiche delle sue memorie]. L’immagine di riferimento è la formica, “An ant, viewed as a behaving system, is quite simple” - (fr:2045) [Una formica, vista come sistema che si comporta, è abbastanza semplice]. I problemi trattati in dettaglio sono crittoaritmetica, dimostrazione di teoremi nel calcolo logico più semplice e scacchi - (fr:2962) [Il libro di Newell e Simon, Human Problem Solving, parla in dettaglio solo di tre problemi: crittoaritmetica, dimostrazione di teoremi nel calcolo logico più semplice e scacchi]. Un programma collegato ha dimostrato in 1/4 di secondo un teorema per il quale era stata stimata una prova di migliaia di anni - (fr:2521) [Dimostrò il teorema particolare la cui prova, secondo la stima di Newell, Shaw e Simon, avrebbe richiesto tempi di calcolo dell’ordine di migliaia di anni, in 1/4 di secondo su un calcolatore oggi considerato molto primitivo]. L’attenzione all’euristica è ricondotta anche a Polya, con regole pratiche che possono portare alla soluzione ma non la garantiscono - (fr:2541) [L’interesse di Polya è per i metodi euristici di risoluzione dei problemi, ossia per quelle regole pratiche che, applicate, possono condurre a una soluzione o a un progresso verso di essa, ma non la garantiscono].
Le frasi mettono in evidenza lo scarto tra le dichiarazioni di generalità e la base empirica. Newell e Simon affermano che la teoria è “much broader than the specific data on which we are erecting it” - (fr:2667) [più ampia dei dati specifici su cui la costruiamo]; questa pretesa di universalità viene descritta come passaggio “from the status of a scientific theory to that of a metaphor” - (fr:2667) [dallo statuto di teoria scientifica a quello di metafora]. Il GPS non offrirebbe sostegno alla tesi che la complessità del comportamento umano dipenda solo dall’ambiente e da pochi parametri interni - (fr:2665) [a meno che un programma per calcolatore non venga considerato un singolo parametro, il GPS non costituisce alcun sostegno all’affermazione che la complessità del comportamento umano sia funzione soltanto dell’ambiente umano e di pochi parametri interni al sistema di elaborazione dell’informazione umano]. Viene inoltre indicata come possibile errore l’assunzione di un’unica classe di processi informativi riducibili a sistemi tipo GPS - (fr:3162) [esista una e una sola classe di processi informativi e che ogni membro di quella classe sia riducibile al tipo di processi informativi esemplificato da sistemi come il GPS e da formalismi di comprensione del linguaggio di tipo Schank]. L’estensione è esplicita: poiché “all humans are information-processing systems”, si possono applicare a essi i “main methods of GPS”, cioè l’“heuristic means-ends analysis” e la verifica degli oggetti indesiderati da trasformare in desiderati - (fr:2712) [poiché “tutti gli esseri umani sono sistemi di elaborazione dell’informazione”, si possono applicare a essi e alle loro attività i “principali metodi del GPS”, cioè l’“analisi euristica mezzi-fini”, la verifica se gli oggetti sono “indesiderati” e quindi da trasformare con operatori negli “oggetti desiderati”]. Infine, i sistemi e i programmi discussi condividono “simplicity”, “distort and abuse language” e “advocate an authoritarianism based on expertise” - (fr:3632) [semplicità, distorsione e abuso del linguaggio e autoritarismo basato sulla competenza tecnica].
[8]
[8.1/1-80-3149|3076]
8 Intelligenza artificiale e confini dell’umano
Macchine pensanti, strumenti e cultura: il progetto computazionale davanti al corpo, all’inconscio e alla società.
L’intelligenza artificiale mira a costruire una macchina sul modello dell’uomo, un robot che abbia una propria infanzia, impari il linguaggio come un bambino, acquisisca la conoscenza del mondo percependo il mondo con i propri organi e arrivi a contemplare l’intero dominio del pensiero umano (fr:3010). A questa pretesa si oppongono limiti di contesto e di corpo: l’intelligenza richiede un quadro di riferimento culturale e sociale, che non è universale né assoluto (fr:3040). Poiché si può parlare di intelligenza solo in domini specifici di pensiero e azione, e questi domini non sono misurabili, non è possibile una misura dell’intelligenza di tipo Shannon (fr:3062). La cultura agisce sullo sviluppo: il bambino incontra i modelli educativi della propria cultura e apprende le modalità fondamentali dell’esistenza in modi personalmente e culturalmente significativi (fr:3131). Le società giapponese e americana, orientate rispettivamente all’interdipendenza e all’indipendenza (fr:3325), differiscono anche in ciò che considerano fatto e norma culturale (fr:3333). L’atto creativo non è ridotto al solo intelletto: implica l’interpretazione cosciente di messaggi provenienti dall’inconscio e il passaggio di idee dalla mano sinistra alla destra (fr:3238). Sul piano degli strumenti, l’orologio non è una macchina protesica: produce ore, minuti e secondi, disassocia il tempo dagli eventi umani e contribuisce a creare la credenza in un mondo indipendente di sequenze matematicamente misurabili (fr:365, fr:378). Più tardi, il biofeedback separa l’uomo dal proprio corpo, che viene percepito solo attraverso segnali strumentali (fr:3811). Ne deriva che un’intelligenza prodotta dal calcolo resta estranea alla condizione umana: qualunque intelligenza possa accumulare un computer, comunque sia acquisita, deve essere sempre e necessariamente assolutamente estranea a tutte le autentiche preoccupazioni umane (fr:3349). Restano atti di pensiero che dovrebbero essere tentati solo dagli esseri umani (fr:228).
[9]
[9.1/1-80-3586|2812]
9 Limiti della comprensione artificiale e critica della ragione strumentale
Sui limiti della comprensione del linguaggio naturale da parte dei computer e sulla critica alla riduzione dell’uomo a macchina.
Il testo esamina i limiti della comprensione del linguaggio naturale da parte dei computer e le implicazioni dell’adozione esclusiva della ragione strumentale. La comprensione umana dipende da contesti non formalizzabili: “Ma se applichiamo la stessa regola di trasformazione a ‘Non ho mai incontrato un uomo che è più alto di Maria’, e otteniamo ‘Non ho mai incontrato un uomo più alto di Maria’, non funziona più” - (fr:1042). I programmi che risolvono problemi algebrici mostrano che “parole come ‘pesci’ e ‘guppy’ non necessitano affatto di essere ‘comprese’; potrebbero essere state ‘X’ e ‘Y’ rispettivamente” - (fr:2812). La convinzione che il computer possa fare qualsiasi cosa se il programmatore comprende a fondo è problematica: “L’idea che una persona possa scrivere un programma che incarni qualsiasi cosa egli ‘comprenda a fondo’ è almeno altrettanto problematica” - (fr:1699). Il computer diventa “un altro lampione sotto la cui luce, e solo sotto la cui luce, gli uomini cercano risposte a domande scottanti” - (fr:2409). La critica si estende alla pretesa di chi afferma di sapere cosa fare per il destino umano: “Nella visione comportamentista, l’uomo può ora controllare il proprio destino perché sa cosa deve essere fatto e come farlo” - (fr:3586). L’uso della ragione strumentale giustifica interventi militari: “È del tutto ragionevole, se ‘ragione’ significa ragione strumentale, applicare la forza militare americana, B-52, napalm, e tutto il resto, al ‘Vietnam dominato dai comunisti’ (chiaramente un ‘oggetto indesiderabile’), come ‘operatore’ per trasformarlo in un ‘oggetto desiderabile’, cioè un paese che serva gli interessi americani” - (fr:3693). La riduzione dell’uomo a macchina è espressa nella citazione riportata: “È possibile considerare l’Uomo stesso come prodotto di un processo evolutivo di robot in sviluppo, generati da robot più semplici, fino al fango primordiale; la sua condotta etica è qualcosa da interpretare in termini di azione circuitale dell’Uomo nel suo ambiente: una macchina di Turing con soli due feedback determinati, un desiderio di giocare e un desiderio di vincere” - (fr:3515). Il progresso scientifico “non si muove lungo un percorso determinato dalla natura stessa, ma rispecchia interessi e preoccupazioni umane” - (fr:3895), e le scelte tecnologiche sono umane, non inevitabili (fr:4031). Il computer è “una nuova metafora potente per aiutarci a comprendere molti aspetti del mondo, ma schiavizza la mente che non ha altre metafore e poche altre risorse a cui ricorrere” - (fr:4085).
[10]
[10.1/1-80-3535|115]
10 Potere del computer e ragione umana: dal giudizio al calcolo
Computer, guerra, welfare, linguaggio e responsabilità: una critica del calcolo come sostituto del giudizio.
Le frasi provengono da un’opera di Joseph Weizenbaum e documentano il passaggio da organizzazioni umane a sistemi automatici. L’“inabilità ad agire” delle organizzazioni a bassa velocità interna ha fornito l’incentivo ad accrescerle o sostituirle con i computer, invece di modificare o ristrutturare i compiti (fr:451). La diffusione dei calcolatori è presentata come risposta a crisi organizzative: “the computer had come along just in time to avert catastrophic crises” - (fr:421) [il computer era arrivato appena in tempo per evitare crisi catastrofiche].
In ambito militare, le incursioni aeree contro la Cambogia vennero registrate nel computer del Pentagono come attacchi al Vietnam del Sud: “air strikes against Cambodia were entered into the “Pentagon large data computer” as strikes against South Viet Nam” - (fr:3510) [le incursioni aeree contro la Cambogia furono inserite nel “grande computer del Pentagono” come incursioni contro il Vietnam del Sud]. La delega alla macchina è ricondotta all’assenza di responsabilità: “policy makers abdicated their decision-making responsibility to a technology they do not understand” - (fr:3505) [i decisori hanno abdicato alla responsabilità di decidere a favore di una tecnologia che non comprendono]. Il controllo vocale di navi e armi rientra tra i progetti del Dipartimento della Difesa: “the Navy hopes to control its ships, and the other services their weapons, by voice commands” - (fr:3995) [la Marina spera di controllare le proprie navi e le altre forze armate le proprie armi tramite comandi vocali].
Sul piano sociale, il computer è presentato come fattore che consolida assetti esistenti invece di favorire alternative: “If the computer had not facilitated the perpetuation and “improvement” of existing welfare distribution systems… perhaps someone might have thought of eliminating much of the need for welfare” - (fr:462) [Se il computer non avesse facilitato la perpetuazione e il “miglioramento” dei sistemi esistenti di distribuzione del welfare… forse qualcuno avrebbe pensato di eliminare gran parte del bisogno di welfare]. Il calcolatore è inoltre definito “an instrument for the destruction of history” - (fr:3487) [uno strumento di distruzione della storia]. Gli usi scientifici sono criticati: in psicologia il “tritacifre ad alta velocità” è “merely their newest, shiniest, and most spectacular mixer-liquidizer” - (fr:2429) [solo il loro più nuovo, lucido e spettacolare frullatore-miscelatore]. Si afferma inoltre che è legittimo dire “bravo” ai biologi e “vergogna” agli scienziati, rispetto alle scelte della ricerca: “it is entirely proper to say ‘bravo’ to the biologists… and to say ‘shame’ to the scientists” - (fr:3882) [è del tutto legittimo dire “bravo” ai biologi… e dire “vergogna” agli scienziati], e che i media di massa “permit essentially no talking back” - (fr:568) [non consentono sostanzialmente replica].
8C25D792558AE2D01BC85E630CA9D24F7007B99263B90C91E2C2D58E7696144CB6D704AE09BACC2DEAE4BB6F4C2EDC6A48579EC8D4A84AAC6A270F946F1EE8635A128DDCD255AFC692264C5D0C587CCEFBDD9168B716913A20E644E2DC4BFA0A8C29EF471C0D28E5621E589D14D42391C3B81182DBBE18C35777252551D10A80BB6C89C45A41B151D2D30AA2F6DD54FAB03B4BC37FF282C7F2C6A597DB83AAAEA813FCF1921FC5BA6BAD13799471F32228F8A5D3E6E29013CDE3D51921829AD220839DCBB27E1F46FC59781C6FE8A92B87DF8D5E2330E240A5B507519636811896CD89D973CB734C49D04E856B2709B7967079C5200CCF07AC32FCA3B3AF4D27C1CCBC6A086EB3A9E0363D00612408153B924C5764A42C1E17B5C3FFD3B6FF69504E9B63BC3680E81DD4F4BB6570A4D97FD3993A7CD9A1F5A307C7576907559E8B8477CAFED20C3C181162E370AEA6C473497450BBDB6DAEC64E96DA0DCD914D4EAADEE2CF8E651778646FD39F3CFA7BB9E3CE8BCD2CCE045F2559E3D2D49A9F32007B2080F8740E05853886A1DBEEDD7E1A237872BFC32C709F26194B6D74588D941DF2E208E361D00CF5042AFA4B81CC59C5B8030A0A597D5D6FDD3E383E4928EA25B12AEF490F04F90FE30B651BB8C91C7A7CC98B4C88DC4392EC1E82AC88CCB59D5D4EBF71FD776C8DF75C618F0BDAB72724BE25BF51B7DC835084F4F0708A0798C0466AB36C