Ens han fet arribar aquest article de The New Yorker traduït al català.
El reproduïm a continuació afegint-hi imatge que nosaltres hem generat mitjançant IA fent servir StableDiffusion i Leonardo.ai
Degut a la seva extensió hem cregut interessant fer-ne dues part
PRIMERA PART
Tal com s'imagina actualment, la tecnologia promet concentrar la riquesa i desempoderar els treballadors. És possible una alternativa?
 |
| Ted Chiang 4 de maig de 2023 |
Quan parlem d'intel·ligència artificial, ens basem en la metàfora, com sempre fem quan tractem amb alguna cosa nova i desconeguda. Les metàfores són, per naturalesa, imperfectes, però encara hem de triar-les amb cura, perquè les dolentes ens poden desviar. Per exemple, s'ha tornat molt comú comparar IA potents amb genis dels contes de fades. La metàfora pretén destacar la dificultat de fer que les entitats poderoses obeeixin les teves ordres; l'informàtic Stuart Russell ha citat la paràbola del rei Mides, que va exigir que tot el que tocava es convertís en or, per il·lustrar els perills d'una IA fent el que li dius que faci en lloc del que vols que faci. Hi ha múltiples problemes amb aquesta metàfora, però un d'ells és que treu les lliçons equivocades del conte al qual fa referència. El punt de la paràbola de Mides és que la cobdícia et destruirà i que la recerca de la riquesa et costarà tot el que és realment important. Si la lectura de la paràbola és que, quan els déus us concedeixen un desig, heu de formular el vostre desig amb molta cura, aleshores us heu perdut.
Per tant, m'agradaria proposar una altra metàfora dels riscos de la intel·ligència artificial. Suggereixo que pensem en la IA com una empresa de consultoria de gestió, seguint la línia de McKinsey & Company. Empreses com McKinsey es contracten per una gran varietat de motius, i els sistemes d'IA també s'utilitzen per molts motius. Però les similituds entre McKinsey —una consultora que treballa amb el noranta per cent de Fortune 100— i la IA també són clares. Les empreses de xarxes socials utilitzen l'aprenentatge automàtic per mantenir els usuaris enganxats als seus canals. De la mateixa manera, Purdue Pharmava utilitzar McKinsey per esbrinar com "turbocarregar" les vendes d'OxyContin durant l'epidèmia d'opioides. De la mateixa manera que la IA promet oferir als directius un reemplaçament barat per als treballadors humans, McKinsey i empreses similars van ajudar a normalitzar la pràctica dels acomiadaments massius com a forma d'augmentar els preus de les accions i la compensació dels executius, contribuint a la destrucció de la classe mitjana a Amèrica.
Un antic empleat de McKinsey ha descrit l'empresa com "els botxins voluntaris del capital ":
si voleu fer alguna cosa però no voleu embrutar-vos les mans, McKinsey ho farà per vosaltres. Aquesta fugida de la responsabilitat és un dels serveis més valuosos que ofereixen les consultories de gestió. Els caps tenen determinats objectius, però no volen que se'ls culpabilitzi de fer el necessari per aconseguir aquests objectius; En contractar consultors, la direcció pot dir que només seguia l'assessorament d'experts independents. Fins i tot en la seva forma rudimentària actual, la IA s'ha convertit en una manera per a una empresa d'evadir la responsabilitat dient que només està fent el que diu "l'algorisme", tot i que va ser l'empresa que va encarregar l'algorisme en primer lloc.
La pregunta que ens hauríem de fer és: a mesura que la IA es torna més potent i flexible, hi ha alguna manera d'evitar que sigui una altra versió de McKinsey?
Val la pena considerar la pregunta en diferents significats del terme "IA". Si penseu en la IA com un conjunt ampli de tecnologies que es comercialitzen a les empreses per ajudar-les a reduir els seus costos, la pregunta és: com evitem que aquestes tecnologies funcionin com "els botxins voluntaris del capital”?
Alternativament, si imagineu la IA com un programa de programari semi-autònom que resol problemes que els humans li demanen que resolgui, la pregunta és aleshores:
com evitem que aquest programari ajudi les corporacions de manera que empitjori la vida de les persones?
Suposem que heu construït una IA semi-autònoma que és totalment obedient als humans, un que comprova repetidament per assegurar-se que no ha malinterpretat les instruccions que ha rebut. Aquest és el somni de molts investigadors d'IA. Tanmateix, aquest programari podria causar tant de dany com McKinsey.
Tingueu en compte que no podeu dir simplement que creareu una IA que només ofereix solucions prosocials als problemes que li demaneu que solucioni. Això és l'equivalent a dir que podeu desactivar l'amenaça de McKinsey iniciant una empresa de consultoria que només ofereixi aquestes solucions.
La realitat és que les empreses de Fortune 100 contractaran McKinsey en lloc de la vostra empresa pro-social, perquè les solucions de McKinsey augmentaran el valor dels accionistes més que les solucions de la vostra empresa. Sempre serà possible construir una IA que persegueixi el valor dels accionistes per sobre de tot, i la majoria de les empreses preferiran utilitzar aquesta IA en lloc d'una limitada pels vostres principis.
Hi ha alguna manera perquè la IA faci alguna cosa que no sigui esmolar la fulla del ganivet del capitalisme?
Per ser clar, quan em refereixo al capitalisme, no parlo de l'intercanvi de béns o serveis per preus determinats per un mercat, que és propietat de molts sistemes econòmics. Quan em refereixo al capitalisme, parlo d'una relació concreta entre capital i treball, en la qual els particulars que tenen diners poden treure profit de l'esforç dels altres. Per tant, en el context d'aquesta discussió, sempre que critico el capitalisme, no critico la idea de vendre coses; estic criticant la idea que les persones que tenen molts diners poden exercir poder sobre les persones que realment treballen. I, més concretament, critico la concentració cada cop més gran de la riquesa entre un nombre cada cop més reduït de persones.
Tal com s'està desplegant actualment, la IA sovint suposa un esforç per analitzar una tasca que realitzen els éssers humans i trobar una manera de substituir l'ésser humà. Casualment, aquest és exactament el tipus de problema que la direcció vol resoldre. Com a resultat, la IA ajuda el capital a costa de la mà d'obra. Realment no hi ha res com una empresa de consultoria laboral que promogui els interessos dels treballadors. És possible que la IA assumeixi aquest paper?
La IA pot fer alguna cosa per ajudar els treballadors en lloc de la direcció?
Alguns podrien dir que no és feina de l'IA oposar-se al capitalisme. Això pot ser cert, però tampoc és feina de la IA enfortir el capitalisme. Tanmateix, això és el que fa actualment. Si no podem trobar maneres perquè la IA redueixi la concentració de riquesa, aleshores diria que és difícil argumentar que la IA és una tecnologia neutral, i molt menys beneficiosa.
Molta gent pensa que la IA crearà més atur i plantejarà la renda bàsica
universal, o UBI (universal basic income en anglès), com a solució a aquest problema. En general,
m'agrada la idea de la renda bàsica universal;
no obstant això, amb el temps, m'he tornat escèptic sobre la manera com les persones que treballen en IA suggereixen UBI com a resposta a l'atur impulsat per la IA. Seria diferent si ja tinguéssim ingressos bàsics universals, però no ho tenim, així que expressar el seu suport sembla una manera perquè les persones que desenvolupen IA passin els diners al govern. En efecte, estan intensificant els problemes que crea el capitalisme amb l'expectativa que, quan aquests problemes siguin prou greus, el govern no tindrà més remei que intervenir. Com a estratègia per fer del món un lloc millor, això sembla dubtós.
Potser recordeu que, de cara a les eleccions del 2016, l'actriu Susan Sarandon —que era una fervent defensora de Bernie Sanders— va dir que votar per Donald Trump seria millor que votar per Hillary Clinton perquè provocaria la revolució. més ràpid. No sé fins a quin punt Sarandon havia pensat això, però el filòsof eslovè Slavoj Žižek va dir el mateix, i estic bastant segur que hi havia pensat molt.
Va argumentar que l'elecció de Trump seria un xoc per al sistema que comportaria un canvi.
El que defensava Žižek és un exemple d'una idea de la filosofia política coneguda com a acceleracionisme. Hi ha moltes versions diferents de l'acceleració, però el fil conductor que uneix els acceleracionistes d'esquerra és la idea que l'única manera de millorar les coses és empitjorar les coses. L'acceleracionisme diu que és inútil intentar oposar-se o reformar el capitalisme; en canvi, hem d'exacerbar les pitjors tendències del capitalisme fins que tot el sistema es trenca. L'única manera d'anar més enllà del capitalisme és prement el pedal del gas del neoliberalisme fins que el motor exploti.
Suposo que aquesta és una manera d'aconseguir un món millor, però, si és l'enfocament que està adoptant la indústria de l'IA, vull assegurar-me que
tothom tingui clar en què està treballant. Mitjançant la creació de la IA per fer
feines anteriorment realitzades per persones, els investigadors d'IA augmenten
la concentració de la riquesa a nivells tan extrems que l'única manera d'evitar el
col·lapse de la societat és que el govern intervingui. Intencionalment o no, això
és molt semblant a votar per Trump amb l'objectiu de crear un món millor. I
l'ascens de Trump il·lustra els riscos de perseguir l'acceleració com a estratègia:
les coses poden anar molt malament, i romandre molt malament durant molt de
temps, abans que millorin. De fet, no tens ni idea de quant de temps trigaran a
que les coses millorin;
No estic gaire convençut de les afirmacions que la IA suposa un perill per a la humanitat perquè podria desenvolupar objectius propis i impedir que l'apaguem. Tanmateix, crec que la IA és perillosa en la mesura que augmenta el poder del capitalisme. L'escenari del dia del judici final no és una IA de fabricació que transformi tot el planeta en clips de paper, com s'ha imaginat un famós experiment mental. Es tracta de corporacions sobrealimentades amb intel·ligència artificial que destrueixen el medi ambient i la classe treballadora en la seva recerca del valor per als accionistes. El capitalisme és la màquina que farà el que calgui per evitar que l'apaguem, i l'arma més exitosa del seu arsenal ha estat la seva campanya per evitar que ens plantegem cap alternativa.
Les persones que critiquen les noves tecnologies de vegades s'anomenen luddites, però és útil aclarir què volien realment els luddites. El principal que protestaven era el fet que els seus salaris baixaven al mateix temps que els beneficis dels propietaris de les fàbriques augmentaven, juntament amb els preus dels aliments. També protestaven per les condicions laborals insegures, l'ús del treball infantil i la venda de productes de mala qualitat que desprestigia tota la indústria tèxtil. Els luddites no van destruir màquines indiscriminadament; si el propietari d'una màquina pagava bé als seus treballadors, ho deixaven en pau. Els luddites no eren antitecnològics; el que ls propietaris de les fàbriques.
El fet que la paraula "ludita" s'utilitzi ara com un insult, una manera d'anomenar algú irracional i ignorant.
Sempre que algú acusa algú més de ser luddita, val la pena preguntar-se, la persona que està acusada és realment contra la tecnologia?
O estan a favor de la justícia econòmica?
I la persona que fa l'acusació està realment a favor de millorar la vida de les persones?
O només estan intentant augmentar l'acumulació privada de capital?
Avui ens trobem en una situació en què la tecnologia s'ha combinat amb el capitalisme, que al seu torn s'ha combinat amb la mateixa noció de progrés. Si intenteu criticar el capitalisme, se us acusa d'oposar-vos tant a la tecnologia com al progrés.
Però, què significa fins i tot el progrés, si no inclou una vida millor per a les persones que treballen?
Quin sentit té una major eficiència, si els diners que s'estalvien no van a cap lloc excepte als comptes bancaris dels accionistes?
Tots hauríem d'esforçar-nos per ser luddites, perquè tots hauríem d'estar més preocupats per la justícia econòmica que per augmentar l'acumulació privada de capital. Hem de ser capaços de criticar els usos nocius de la tecnologia —i aquests inclouen els usos que beneficien els accionistes per sobre dels treballadors— sense ser descrits com a opositors a la tecnologia.
Imagineu-vos un futur idealitzat, d'aquí a cent anys, en què ningú es vegi obligat a treballar en qualsevol feina que no li agradi, i cadascú pugui dedicar el seu temps a allò que cregui més satisfactori personalment. Evidentment, és difícil veure com arribaríem allà des d'aquí. Però ara considerem dos possibles escenaris per a les properes dècades.
En un, la gestió i les forces del capital són encara més poderoses que ara.
En l'altra, la mà d'obra és més poderosa que ara.
Quina d'elles sembla més probable que ens apropi a aquest futur idealitzat?
I, tal com està desplegat actualment, cap a quin ens està empenyent la IA?
Per descomptat, hi ha l'argument que les noves tecnologies milloren el nostre nivell de vida a llarg termini, la qual cosa compensa l'atur que genera a curt termini. Aquest argument va tenir pes durant gran part del període posterior a la Revolució Industrial, però ha perdut força durant l'últim mig segle. Als Estats Units, el PIB per càpita gairebé s'ha duplicat des del 1980, mentre que la renda mitjana de les llars ha quedat molt endarrerida. Aquest període cobreix la revolució de les tecnologies de la informació. Això vol dir que el valor econòmic creat per l'ordinador personal i Internet ha servit principalment per augmentar la riquesa de l'un per cent superior de l'un per cent superior, en lloc d'elevar el nivell de vida dels ciutadans nord-americans en conjunt.
Per descomptat, tots tenim Internet ara, i Internet és increïble. Però els preus immobiliaris, la matrícula universitària i els costos sanitaris han augmentat més ràpidament que la inflació. L'any 1980, era habitual mantenir una família amb una única renda; ara és rar. Aleshores, quants progressos hem fet realment en els últims quaranta anys? Per descomptat, comprar en línia és ràpid i fàcil, i la reproducció de pel·lícules a casa és fantàstica, però crec que molta gent canviaria de bon grat aquestes comoditats per la possibilitat de posseir la seva pròpia llar, enviar els seus fills a la universitat sense tenir deutes per a tota la vida i anar a l'hospital sense caure en fallida. No és culpa de la tecnologia que la renda mitjana no hagi seguit el ritme del PIB per càpita; la culpa és sobretot de Ronald Reagan i Milton Friedman. Però una mica de responsabilitat també recau en les polítiques de gestió de consellers delegats com Jack Welch , que va dirigir General Electric entre 1981 i 2001, així com en empreses de consultoria com McKinsey. No culpo a l'ordinador personal de l'augment de la desigualtat de la riquesa; només dic que l'afirmació que una millor tecnologia necessàriament millorarà el nivell de vida de la gent ja no és creïble.
[Continua a la segona part]
no obstant això, amb el temps, m'he tornat escèptic sobre la manera com les persones que treballen en IA suggereixen UBI com a resposta a l'atur impulsat per la IA. Seria diferent si ja tinguéssim ingressos bàsics universals, però no ho tenim, així que expressar el seu suport sembla una manera perquè les persones que desenvolupen IA passin els diners al govern. En efecte, estan intensificant els problemes que crea el capitalisme amb l'expectativa que, quan aquests problemes siguin prou greus, el govern no tindrà més remei que intervenir. Com a estratègia per fer del món un lloc millor, això sembla dubtós.
 |
| prompt= a painting of Susan Sarandon, Edward Hopper style |
Potser recordeu que, de cara a les eleccions del 2016, l'actriu Susan Sarandon —que era una fervent defensora de Bernie Sanders— va dir que votar per Donald Trump seria millor que votar per Hillary Clinton perquè provocaria la revolució. més ràpid. No sé fins a quin punt Sarandon havia pensat això, però el filòsof eslovè Slavoj Žižek va dir el mateix, i estic bastant segur que hi havia pensat molt.
Va argumentar que l'elecció de Trump seria un xoc per al sistema que comportaria un canvi.
El que defensava Žižek és un exemple d'una idea de la filosofia política coneguda com a acceleracionisme. Hi ha moltes versions diferents de l'acceleració, però el fil conductor que uneix els acceleracionistes d'esquerra és la idea que l'única manera de millorar les coses és empitjorar les coses. L'acceleracionisme diu que és inútil intentar oposar-se o reformar el capitalisme; en canvi, hem d'exacerbar les pitjors tendències del capitalisme fins que tot el sistema es trenca. L'única manera d'anar més enllà del capitalisme és prement el pedal del gas del neoliberalisme fins que el motor exploti.
 |
| prompt= a painting of Slavoj Žižek, Edward Hopper style |
No estic gaire convençut de les afirmacions que la IA suposa un perill per a la humanitat perquè podria desenvolupar objectius propis i impedir que l'apaguem. Tanmateix, crec que la IA és perillosa en la mesura que augmenta el poder del capitalisme. L'escenari del dia del judici final no és una IA de fabricació que transformi tot el planeta en clips de paper, com s'ha imaginat un famós experiment mental. Es tracta de corporacions sobrealimentades amb intel·ligència artificial que destrueixen el medi ambient i la classe treballadora en la seva recerca del valor per als accionistes. El capitalisme és la màquina que farà el que calgui per evitar que l'apaguem, i l'arma més exitosa del seu arsenal ha estat la seva campanya per evitar que ens plantegem cap alternativa.
Les persones que critiquen les noves tecnologies de vegades s'anomenen luddites, però és útil aclarir què volien realment els luddites. El principal que protestaven era el fet que els seus salaris baixaven al mateix temps que els beneficis dels propietaris de les fàbriques augmentaven, juntament amb els preus dels aliments. També protestaven per les condicions laborals insegures, l'ús del treball infantil i la venda de productes de mala qualitat que desprestigia tota la indústria tèxtil. Els luddites no van destruir màquines indiscriminadament; si el propietari d'una màquina pagava bé als seus treballadors, ho deixaven en pau. Els luddites no eren antitecnològics; el que ls propietaris de les fàbriques.
El fet que la paraula "ludita" s'utilitzi ara com un insult, una manera d'anomenar algú irracional i ignorant.
Sempre que algú acusa algú més de ser luddita, val la pena preguntar-se, la persona que està acusada és realment contra la tecnologia?
O estan a favor de la justícia econòmica?
I la persona que fa l'acusació està realment a favor de millorar la vida de les persones?
O només estan intentant augmentar l'acumulació privada de capital?
Avui ens trobem en una situació en què la tecnologia s'ha combinat amb el capitalisme, que al seu torn s'ha combinat amb la mateixa noció de progrés. Si intenteu criticar el capitalisme, se us acusa d'oposar-vos tant a la tecnologia com al progrés.
Però, què significa fins i tot el progrés, si no inclou una vida millor per a les persones que treballen?
Quin sentit té una major eficiència, si els diners que s'estalvien no van a cap lloc excepte als comptes bancaris dels accionistes?
Tots hauríem d'esforçar-nos per ser luddites, perquè tots hauríem d'estar més preocupats per la justícia econòmica que per augmentar l'acumulació privada de capital. Hem de ser capaços de criticar els usos nocius de la tecnologia —i aquests inclouen els usos que beneficien els accionistes per sobre dels treballadors— sense ser descrits com a opositors a la tecnologia.
Imagineu-vos un futur idealitzat, d'aquí a cent anys, en què ningú es vegi obligat a treballar en qualsevol feina que no li agradi, i cadascú pugui dedicar el seu temps a allò que cregui més satisfactori personalment. Evidentment, és difícil veure com arribaríem allà des d'aquí. Però ara considerem dos possibles escenaris per a les properes dècades.
En un, la gestió i les forces del capital són encara més poderoses que ara.
En l'altra, la mà d'obra és més poderosa que ara.
Quina d'elles sembla més probable que ens apropi a aquest futur idealitzat?
I, tal com està desplegat actualment, cap a quin ens està empenyent la IA?
 |
| prompt= a paiting of Ronald Reagan as caricatura |
Per descomptat, hi ha l'argument que les noves tecnologies milloren el nostre nivell de vida a llarg termini, la qual cosa compensa l'atur que genera a curt termini. Aquest argument va tenir pes durant gran part del període posterior a la Revolució Industrial, però ha perdut força durant l'últim mig segle. Als Estats Units, el PIB per càpita gairebé s'ha duplicat des del 1980, mentre que la renda mitjana de les llars ha quedat molt endarrerida. Aquest període cobreix la revolució de les tecnologies de la informació. Això vol dir que el valor econòmic creat per l'ordinador personal i Internet ha servit principalment per augmentar la riquesa de l'un per cent superior de l'un per cent superior, en lloc d'elevar el nivell de vida dels ciutadans nord-americans en conjunt.
Per descomptat, tots tenim Internet ara, i Internet és increïble. Però els preus immobiliaris, la matrícula universitària i els costos sanitaris han augmentat més ràpidament que la inflació. L'any 1980, era habitual mantenir una família amb una única renda; ara és rar. Aleshores, quants progressos hem fet realment en els últims quaranta anys? Per descomptat, comprar en línia és ràpid i fàcil, i la reproducció de pel·lícules a casa és fantàstica, però crec que molta gent canviaria de bon grat aquestes comoditats per la possibilitat de posseir la seva pròpia llar, enviar els seus fills a la universitat sense tenir deutes per a tota la vida i anar a l'hospital sense caure en fallida. No és culpa de la tecnologia que la renda mitjana no hagi seguit el ritme del PIB per càpita; la culpa és sobretot de Ronald Reagan i Milton Friedman. Però una mica de responsabilitat també recau en les polítiques de gestió de consellers delegats com Jack Welch , que va dirigir General Electric entre 1981 i 2001, així com en empreses de consultoria com McKinsey. No culpo a l'ordinador personal de l'augment de la desigualtat de la riquesa; només dic que l'afirmació que una millor tecnologia necessàriament millorarà el nivell de vida de la gent ja no és creïble.
 |
| prompt= a paiting of MIlton Friedman , Boris Vallejo style |
[Continua a la segona part]
Cap comentari:
Publica un comentari a l'entrada