Ens han fet arribar aquest article de The New Yorker traduït al català.
El reproduïm a continuació afegint-hi imatge que nosaltres hem generat mitjançant IA fent servir StableDiffusion i Leonardo.aiDegut a la seva extensió hem cregut interessant fer-ne dues part
PRIMERA PARTTal com s'imagina actualment, la tecnologia promet concentrar la riquesa i desempoderar els
treballadors. És possible una alternativa?
 |
Ted Chiang
4 de maig de 2023
|
Quan parlem d'intel·ligència artificial, ens basem en la metàfora, com
sempre fem quan tractem amb alguna cosa nova i desconeguda. Les
metàfores són, per naturalesa, imperfectes, però encara hem de triar-les amb cura, perquè les dolentes ens poden desviar. Per exemple, s'ha tornat molt comú
comparar IA potents amb genis dels contes de fades. La metàfora pretén
destacar la dificultat de fer que les entitats poderoses obeeixin les teves ordres;
l'informàtic
Stuart Russell ha citat la paràbola del rei Mides, que va exigir que
tot el que tocava es convertís en or, per il·lustrar els perills d'una IA fent el que
li dius que faci en lloc del que vols que faci. Hi ha múltiples problemes amb
aquesta metàfora, però un d'ells és que treu les lliçons equivocades del conte al
qual fa referència.
El punt de la paràbola de Mides és que la cobdícia et
destruirà i que la recerca de la riquesa et costarà tot el que és realment
important. Si la lectura de la paràbola és que, quan els déus us concedeixen un
desig, heu de formular el vostre desig amb molta cura, aleshores us heu perdut.
Per tant, m'agradaria proposar una altra metàfora dels riscos de la intel·ligència
artificial. Suggereixo que pensem en la IA com una empresa de consultoria de
gestió, seguint la línia de McKinsey & Company. Empreses com McKinsey es
contracten per una gran varietat de motius, i els sistemes d'IA també s'utilitzen
per molts motius. Però les similituds entre McKinsey —una consultora que
treballa amb el noranta per cent de Fortune 100— i la IA també són clares.
Les
empreses de xarxes socials utilitzen l'aprenentatge automàtic per mantenir els
usuaris enganxats als seus canals. De la mateixa manera,
Purdue Pharmava
utilitzar
McKinsey per esbrinar com "turbocarregar" les vendes d'OxyContin
durant l'epidèmia d'opioides.
De la mateixa manera que la IA promet oferir als
directius un reemplaçament barat per als treballadors humans, McKinsey i
empreses similars van ajudar a normalitzar la pràctica dels acomiadaments
massius com a forma d'augmentar els preus de les accions i la compensació dels
executius, contribuint a la destrucció de la classe mitjana a Amèrica.
Un antic empleat de
McKinsey ha descrit l'empresa com "els botxins voluntaris
del capital ":
si voleu fer alguna cosa però no voleu embrutar-vos les mans,
McKinsey ho farà per vosaltres. Aquesta fugida de la responsabilitat és un dels serveis més valuosos que ofereixen les consultories de gestió. Els caps tenen
determinats objectius, però no volen que se'ls culpabilitzi de fer el necessari per
aconseguir aquests objectius; En contractar consultors, la direcció pot dir que
només seguia l'assessorament d'experts independents. Fins i tot en la seva
forma rudimentària actual, la IA s'ha convertit en una manera per a una
empresa d'
evadir la responsabilitat dient que només està fent el que diu
"l'algorisme", tot i que va ser l'empresa que va encarregar l'algorisme en primer
lloc.
La pregunta que ens hauríem de fer és: a mesura que la IA es torna més potent i flexible, hi ha alguna manera d'evitar que sigui una altra versió de
McKinsey?
Val la pena considerar la pregunta en diferents significats del terme "IA". Si
penseu en la IA com un conjunt ampli de tecnologies que es comercialitzen a
les empreses per ajudar-les a reduir els seus costos, la pregunta és:
com evitem
que aquestes tecnologies funcionin com "els botxins voluntaris del capital”?
Alternativament, si imagineu la IA com un programa de programari semi-autònom que resol problemes que els humans li demanen que resolgui, la
pregunta és aleshores:
com evitem que aquest programari ajudi les corporacions
de manera que empitjori la vida de les persones?
Suposem que heu construït
una IA semi-autònoma que és totalment obedient als humans, un que
comprova repetidament per assegurar-se que no ha malinterpretat les
instruccions que ha rebut. Aquest és el somni de molts investigadors d'IA.
Tanmateix, aquest programari podria causar tant de dany com McKinsey.
Tingueu en compte que no podeu dir simplement que creareu una IA que
només ofereix solucions prosocials als problemes que li demaneu que solucioni.
Això és l'equivalent a dir que podeu desactivar l'amenaça de
McKinsey iniciant
una empresa de consultoria que només ofereixi aquestes solucions.
La realitat és
que les empreses de Fortune 100 contractaran McKinsey en lloc de la vostra
empresa pro-social, perquè les solucions de McKinsey augmentaran el valor dels
accionistes més que les solucions de la vostra empresa. Sempre serà possible construir una IA que persegueixi el valor dels accionistes per sobre de tot, i la
majoria de les empreses preferiran utilitzar aquesta IA en lloc d'una limitada
pels vostres principis.
Hi ha alguna manera perquè la IA faci alguna cosa que no sigui esmolar la fulla
del ganivet del capitalisme?
Per ser clar, quan em refereixo al capitalisme, no
parlo de l'intercanvi de béns o serveis per preus determinats per un mercat, que
és propietat de molts sistemes econòmics.
Quan em refereixo al capitalisme,
parlo d'una relació concreta entre capital i treball, en la qual els particulars que
tenen diners poden treure profit de l'esforç dels altres. Per tant, en el context
d'aquesta discussió, sempre que critico el capitalisme, no critico la idea de
vendre coses;
estic criticant la idea que les persones que tenen molts diners
poden exercir poder sobre les persones que realment treballen. I, més
concretament, critico la concentració cada cop més gran de la riquesa entre un
nombre cada cop més reduït de persones.
Tal com s'està desplegant actualment, la IA sovint suposa un esforç per
analitzar una tasca que realitzen els éssers humans i trobar una manera de
substituir l'ésser humà. Casualment, aquest és exactament el tipus de problema
que la direcció vol resoldre. Com a resultat, la IA ajuda el capital a costa de la
mà d'obra. Realment no hi ha res com una empresa de consultoria laboral que
promogui els interessos dels treballadors. És possible que la IA assumeixi aquest
paper?
La IA pot fer alguna cosa per ajudar els treballadors en lloc de la
direcció?
Alguns podrien dir que no és feina de l'IA oposar-se al capitalisme. Això pot
ser cert, però tampoc és feina de la IA enfortir el capitalisme. Tanmateix, això
és el que fa actualment. Si no podem trobar maneres perquè la IA redueixi la
concentració de riquesa, aleshores diria que és difícil argumentar que la IA és
una tecnologia neutral, i molt menys beneficiosa.Molta gent pensa que la IA crearà més atur i plantejarà la
renda bàsica
universal, o
UBI (universal basic income en anglès), com a solució a aquest problema. En general,
m'agrada la idea de la renda bàsica universal;
no obstant això, amb el temps,
m'he tornat escèptic sobre la manera com les persones que treballen en IA
suggereixen
UBI com a resposta a l'atur impulsat per la IA. Seria diferent si ja
tinguéssim ingressos bàsics universals, però no ho tenim, així que expressar el
seu suport sembla una manera perquè les persones que desenvolupen IA passin
els diners al govern. En efecte,
estan intensificant els problemes que crea el
capitalisme amb l'expectativa que, quan aquests problemes siguin prou greus, el
govern no tindrà més remei que intervenir. Com a estratègia per fer del món un
lloc millor, això sembla dubtós.
 |
| prompt= a painting of Susan Sarandon, Edward Hopper style |
Potser recordeu que, de cara a les eleccions del 2016, l'actriu
Susan Sarandon
—que era una fervent defensora de
Bernie Sanders— va dir que votar per
Donald Trump seria millor que votar per Hillary Clinton perquè provocaria la
revolució. més ràpid. No sé fins a quin punt
Sarandon havia pensat això, però el filòsof eslovè
Slavoj Žižek va dir el mateix, i estic bastant segur que hi havia
pensat molt.
Va argumentar que l'elecció de Trump seria un xoc per al sistema
que comportaria un canvi.
El que defensava
Žižek és un exemple d'una idea de la filosofia política
coneguda com a
acceleracionisme. Hi ha moltes versions diferents de
l'acceleració, però el fil conductor que uneix els acceleracionistes d'esquerra és la
idea que l'única manera de millorar les coses és empitjorar les coses.
L'acceleracionisme diu que és inútil intentar oposar-se o reformar el
capitalisme; en canvi, hem d'exacerbar les pitjors tendències del capitalisme fins
que tot el sistema es trenca.
L'única manera d'anar més enllà del capitalisme és
prement el pedal del gas del neoliberalisme fins que el motor exploti.
 |
| prompt= a painting of Slavoj Žižek, Edward Hopper style |
Suposo que aquesta és una manera d'aconseguir un món millor, però, si és l'enfocament que està adoptant la indústria de l'IA, vull assegurar-me que
tothom tingui clar en què està treballant.
Mitjançant la creació de la IA per fer
feines anteriorment realitzades per persones, els investigadors d'IA augmenten
la concentració de la riquesa a nivells tan extrems que l'única manera d'evitar el
col·lapse de la societat és que el govern intervingui. Intencionalment o no, això
és molt semblant a votar per Trump amb l'objectiu de crear un món millor.
I
l'ascens de Trump il·lustra els riscos de perseguir l'acceleració com a estratègia:
les coses poden anar molt malament, i romandre molt malament durant molt de
temps, abans que millorin. De fet, no tens ni idea de quant de temps trigaran a
que les coses millorin;
No estic gaire convençut de les afirmacions que la IA suposa un perill per a la
humanitat perquè podria desenvolupar objectius propis i impedir que
l'apaguem.
Tanmateix, crec que la IA és perillosa en la mesura que augmenta el
poder del capitalisme. L'escenari del dia del judici final no és una IA de
fabricació que transformi tot el planeta en clips de paper, com s'ha imaginat un
famós experiment mental.
Es tracta de corporacions sobrealimentades amb
intel·ligència artificial que destrueixen el medi ambient i la classe treballadora
en la seva recerca del valor per als accionistes. El capitalisme és la màquina que
farà el que calgui per evitar que l'apaguem, i l'arma més exitosa del seu arsenal
ha estat la seva campanya per evitar que ens plantegem cap alternativa.
Les persones que critiquen les noves tecnologies de vegades s'anomenen
luddites, però és útil aclarir què volien realment els luddites.
El principal que
protestaven era el fet que els seus salaris baixaven al mateix temps que els
beneficis dels propietaris de les fàbriques augmentaven, juntament amb els
preus dels aliments. També protestaven per les condicions laborals insegures,
l'ús del treball infantil i la venda de productes de mala qualitat que desprestigia
tota la indústria tèxtil. Els luddites no van destruir màquines
indiscriminadament; si el propietari d'una màquina pagava bé als seus
treballadors, ho deixaven en pau. Els luddites no eren antitecnològics; el que ls propietaris de les fàbriques.
El fet que la paraula "ludita"
s'utilitzi ara com un insult, una manera d'anomenar algú irracional i ignorant.Sempre que algú acusa algú més de ser luddita, val la pena preguntar-se, la
persona que està acusada és realment contra la tecnologia?
O estan a favor de la
justícia econòmica?
I la persona que fa l'acusació està realment a favor de
millorar la vida de les persones?
O només estan intentant augmentar
l'acumulació privada de capital?
Avui ens trobem en una situació en què la tecnologia s'ha combinat amb el
capitalisme, que al seu torn s'ha combinat amb la mateixa noció de progrés.
Si
intenteu criticar el capitalisme, se us acusa d'oposar-vos tant a la tecnologia com
al progrés.
Però, què significa fins i tot el progrés, si no inclou una vida millor
per a les persones que treballen?
Quin sentit té una major eficiència, si els
diners que s'estalvien no van a cap lloc excepte als comptes bancaris dels
accionistes? Tots hauríem d'esforçar-nos per ser luddites, perquè tots hauríem
d'estar més preocupats per la justícia econòmica que per augmentar
l'acumulació privada de capital. Hem de ser capaços de criticar els usos nocius
de la tecnologia —i aquests inclouen els usos que beneficien els accionistes per
sobre dels treballadors— sense ser descrits com a opositors a la tecnologia.
Imagineu-vos un futur idealitzat, d'aquí a cent anys, en què ningú es vegi
obligat a treballar en qualsevol feina que no li agradi, i cadascú pugui dedicar el
seu temps a allò que cregui més satisfactori personalment. Evidentment, és
difícil veure com arribaríem allà des d'aquí. Però ara considerem dos possibles
escenaris per a les properes dècades.
En un, la gestió i les forces del capital són
encara més poderoses que ara.
En l'altra, la mà d'obra és més poderosa que ara.
Quina d'elles sembla més probable que ens apropi a aquest futur idealitzat?
I,
tal com està desplegat actualment, cap a quin ens està empenyent la IA?
 |
| prompt= a paiting of Ronald Reagan as caricatura |
Per descomptat, hi ha l'argument que les noves tecnologies milloren el
nostre nivell de vida a llarg termini, la qual cosa compensa l'atur que genera
a curt termini. Aquest argument va tenir pes durant gran part del període
posterior a la Revolució Industrial, però ha perdut força durant l'últim mig
segle.
Als Estats Units, el PIB per càpita gairebé s'ha duplicat des del 1980,
mentre que la renda mitjana de les llars ha quedat molt endarrerida. Aquest
període cobreix la revolució de les tecnologies de la informació. Això vol dir que
el valor econòmic creat per l'ordinador personal i Internet ha servit
principalment per augmentar la riquesa de l'un per cent superior de l'un per
cent superior, en lloc d'elevar el nivell de vida dels ciutadans nord-americans en
conjunt.
Per descomptat, tots tenim Internet ara, i Internet és increïble. Però els preus
immobiliaris, la matrícula universitària i els costos sanitaris
han augmentat més
ràpidament que la inflació. L'any 1980, era habitual mantenir una família amb
una única renda; ara és rar. Aleshores, quants progressos hem fet realment en
els últims quaranta anys? Per descomptat, comprar en línia és ràpid i fàcil, i la
reproducció de pel·lícules a casa és fantàstica,
però crec que molta gent canviaria
de bon grat aquestes comoditats per la possibilitat de posseir la seva pròpia llar,
enviar els seus fills a la universitat sense tenir deutes per a tota la vida i anar a
l'hospital sense caure en fallida. No és culpa de la tecnologia que la renda
mitjana no hagi seguit el ritme del PIB per càpita; la culpa és sobretot de
Ronald Reagan i
Milton Friedman. Però una mica de responsabilitat també
recau en les polítiques de gestió de consellers delegats com
Jack Welch , que va
dirigir General Electric entre 1981 i 2001, així com en empreses de consultoria
com McKinsey. No culpo a l'ordinador personal de l'augment de la desigualtat
de la riquesa; només dic que l'afirmació que una millor tecnologia
necessàriament millorarà el nivell de vida de la gent ja no és creïble.
 |
prompt= a paiting of MIlton Friedman , Boris Vallejo style
|
[Continua a la segona part]
