NewYorker: La IA es convertirà en el nou McKinsey? (2 de 2)

SEGONA PART

...continua

El fet que els ordinadors personals no augmentin els ingressos mitjans és especialment rellevant quan es pensen en els possibles beneficis de la IA. Sovint se suggereix que els investigadors s'haurien de centrar en les maneres en què la IA pot augmentar la productivitat dels treballadors individuals en lloc de substituir-los; això es coneix com el camí d'augment, en oposició al camí d'automatització. Aquest és un objectiu digne, però, per si sol, no millorarà la fortuna econòmica de la gent. El programari de productivitat que funcionava als ordinadors personals era un exemple perfecte d'augment més que d'automatització: els programes de processament de textos van substituir les màquines d'escriure en lloc de les mecanògrafes, i els programes de fulls de càlcul van substituir els fulls de càlcul en paper en lloc dels comptables. Però l'augment de la productivitat personal provocat per l'ordinador personal no es va acompanyar d'un nivell de vida més elevat.

a painting of an artificial intelligence, Boris Vallejo style

L'única manera que la tecnologia pot augmentar el nivell de vida és si hi ha polítiques econòmiques establertes per distribuir els beneficis de la tecnologia de manera adequada. No hem tingut aquestes polítiques durant els darrers quaranta anys i, tret que les aconseguim, no hi ha cap raó per pensar que els propers avenços en IA augmentaran els ingressos mitjans, fins i tot si som capaços d'idear maneres d'augmentar-los. treballadors individuals. Sens dubte, la IA reduirà els costos laborals i augmentarà els beneficis de les corporacions, però això és completament diferent de millorar el nostre nivell de vida.

Seria convenient si poguéssim suposar que un futur utòpic està a la volta de la cantonada i desenvolupar tecnologia per utilitzar-la en aquest futur. Però el fet que una tecnologia determinada sigui útil en una utopia no implica que sigui útil ara. En una utopia on hi ha una màquina que converteix residus tòxics en aliments, generar residus tòxics no seria un problema, però, aquí i ara, ningú podria afirmar que generar residus tòxics és inofensiu. Els acceleracionistes podrien argumentar que generar més residus tòxics motivarà la invenció d'un convertidor de residus en aliments, però fins a quin punt és convincent?
Avaluem l'impacte ambiental de les tecnologies en el context de les mitigacions disponibles actualment, no en el context d'hipotètiques mitigacions futures. De la mateixa manera, no podem avaluar la IA en imaginar com d'ajuda serà en un món amb UBI; l'hem d'avaluar tenint en compte el desequilibri existent entre capital i treball, i, en aquest context, la IA és una amenaça per la forma en què ajuda el capital.

a painting of an artificial intelligence, Boris Vallejo style

Un antic soci de McKinsey va defensar les accions de l'empresa dient: "No fem política. Fem execució". Però aquesta és una excusa bastant fina; És més probable que es prenguin decisions polítiques nocives quan les empreses de consultoria —o les noves tecnologies— ofereixen maneres d'implementar-les. La versió d'IA que s'està desenvolupant fa que sigui més fàcil per a les empreses acomiadar persones. Per tant, hi ha alguna manera de desenvolupar una mena d'IA que ho faci més difícil?

En el seu llibre " Com ser un anticapitalista al segle XXI ", el sociòleg Erik Olin Wright ofereix una taxonomia d'estratègies per respondre als danys del capitalisme. Dues de les estratègies que esmenta són destrossar el capitalisme i desmantellar el capitalisme, que probablement queden fora de l'àmbit d'aquesta discussió. Els que són més rellevants aquí són la domesticació del capitalisme i la resistència al capitalisme. A grans trets, domesticar el capitalisme significa regulació del govern, i resistir el capitalisme significa activisme de base i sindicats. Hi ha maneres perquè la IA enforteixi aquestes coses? Hi ha alguna manera que la IA doni poder als sindicats o a les cooperatives propietat dels treballadors?

El 1976, els treballadors de la Lucas Aerospace Corporation a Birmingham, Anglaterra, s'enfrontaven a acomiadaments a causa de les retallades en la despesa de defensa. Com a resposta, els representants van elaborar un document conegut com el Pla Lucas, que descrivia cent cinquanta "productes socialment útils", que van des de màquines de diàlisi fins a turbines eòliques i motors híbrids per a cotxes, que la força de treball podria construir amb les seves habilitats existents i equip en lloc de ser acomiadat. La direcció de Lucas Aerospace va rebutjar la proposta, però continua sent un exemple modern notable de treballadors que intenten dirigir el capitalisme en una direcció més humana. Segurament alguna cosa semblant ha de ser possible amb la tecnologia informàtica moderna.

a painting of an artificial intelligence, Edward Hopper style

El capitalisme ha de ser tan nociu com ho és actualment? Potser no.
Les tres dècades posteriors a la Segona Guerra Mundial es coneixen de vegades com l'edat daurada del capitalisme. Aquest període va ser en part el resultat de millors polítiques governamentals, però el govern no va crear l'edat daurada per si sol: la cultura corporativa va ser diferent durant aquesta època. A l'informe anual de General Electric de 1953, l'empresa es va presumir de quant pagava en impostos i de quant gastava en nòmines. Va dir explícitament que "maximitzar la seguretat laboral és un objectiu primordial de l'empresa". El fundador de Johnson & Johnson va dir que la responsabilitat de l'empresa envers els seus empleats era superior a la seva responsabilitat envers els seus accionistes. Les corporacions tenien llavors una concepció radicalment diferent del seu paper en la societat en comparació amb les corporacions actuals.

Hi ha alguna manera de tornar a aquests valors?
Sembla poc probable, però recordeu que l'època daurada del capitalisme va arribar després de l'enorme desigualtat de riquesa de l'Edat Daurada. Ara mateix estem vivint en una segona edat daurada, en la qual la desigualtat de la riquesa és gairebé la mateixa que l'any 1913, de manera que no és impossible que puguem passar d'on som ara a una segona edat daurada. Per descomptat, entre la primera edat daurada i l'edat daurada vam tenir la Gran Depressió i dues guerres mundials. Un acceleracionista podria dir que aquests esdeveniments eren necessaris per provocar l'edat daurada, però crec que la majoria de nosaltres preferim saltarnos per sobre d'aquests passos. La tasca que tenim davant és imaginar maneres perquè la tecnologia ens porti cap a una edat daurada sense provocar primer una altra Gran Depressió.

Tots vivim en un sistema capitalista, així que tots som participants del capitalisme, ens agradi o no. I és raonable preguntar-se si hi ha alguna cosa que vostè com a individu pugui fer. Si treballes com a científic d'alimentació a Frito-Lay i la teva feina és inventar nous sabors de patates fregides, no diré que tinguis l'obligació ètica de deixar-ho perquè estàs ajudant el motor del consum. Estàs utilitzant la teva formació com a científic d'alimentació per oferir als clients una experiència agradable; aquesta és una manera perfectament raonable de guanyar-se la vida.

a painting of an artificial intelligence, stalenhag style 

Però moltes de les persones que treballen en IA ho consideren més important que inventar nous sabors de patates fregides. Diuen que és una tecnologia que canvia el món. Si aquest és el cas, tenen el deure de trobar maneres perquè la IA millori el món sense abans empitjorar-lo. La intel·ligència artificial pot millorar les desigualtats del nostre món que no sigui empènyer-nos a la vora del col·lapse social? Si la IA és una eina tan poderosa com afirmen els seus defensors, haurien de poder trobar-hi altres usos a més d'intensificar la crueltat del capital.

Si hi ha alguna lliçó que hauríem de treure d'històries sobre genis que concedeixen desitjos, és que el desig d'aconseguir alguna cosa sense esforç és el veritable problema. Penseu en la història de "L'aprenent de bruixot", en què l'aprenent fa un encanteri perquè les escombres portin aigua, però no aconsegueix fer-les aturar. La lliçó d'aquesta història no és que la màgia sigui impossible de controlar: al final de la història, el bruixot torna i immediatament arregla l'embolic que va fer l'aprenent. La lliçó és que no pots deixar de fer el treball dur. L'aprenent volia evitar les seves tasques, i buscar una drecera va ser el que li va posar en problemes.

a painting of an artificial intelligence, Boris Vallejo style

Aquest treball dur implicarà coses com abordar la desigualtat de la riquesa i domesticar el capitalisme. Per als tecnòlegs, el treball més dur de tots, la tasca que més volen evitar, serà qüestionar la suposició que més tecnologia sempre és millor i la creença que poden continuar amb el seu negoci com sempre i que tot s'arreglarà. A ningú li agrada pensar en la seva complicitat amb les injustícies del món, però és imprescindible que les persones que estan construint tecnologies que sacsegen el món es dediquin a aquest tipus d'autoexamen crític. És la seva voluntat de mirar amb fermesa el seu propi paper en el sistema el que determinarà si la IA condueix a un món millor o pitjor.

NewYorker: La IA es convertirà en el nou McKinsey? (1 de 2)

Ens han fet arribar aquest article de The New Yorker traduït al català.
El reproduïm a continuació afegint-hi imatge que nosaltres hem generat mitjançant IA fent servir StableDiffusion i Leonardo.ai

Degut a la seva extensió hem cregut interessant fer-ne dues part
PRIMERA PART

Tal com s'imagina actualment, la tecnologia promet concentrar la riquesa i desempoderar els treballadors. És possible una alternativa?

Ted Chiang
4 de maig de 2023

Quan parlem d'intel·ligència artificial, ens basem en la metàfora, com sempre fem quan tractem amb alguna cosa nova i desconeguda. Les metàfores són, per naturalesa, imperfectes, però encara hem de triar-les amb cura, perquè les dolentes ens poden desviar. Per exemple, s'ha tornat molt comú comparar IA potents amb genis dels contes de fades. La metàfora pretén destacar la dificultat de fer que les entitats poderoses obeeixin les teves ordres; l'informàtic Stuart Russell ha citat la paràbola del rei Mides, que va exigir que tot el que tocava es convertís en or, per il·lustrar els perills d'una IA fent el que li dius que faci en lloc del que vols que faci. Hi ha múltiples problemes amb aquesta metàfora, però un d'ells és que treu les lliçons equivocades del conte al qual fa referència. El punt de la paràbola de Mides és que la cobdícia et destruirà i que la recerca de la riquesa et costarà tot el que és realment important. Si la lectura de la paràbola és que, quan els déus us concedeixen un desig, heu de formular el vostre desig amb molta cura, aleshores us heu perdut.

Per tant, m'agradaria proposar una altra metàfora dels riscos de la intel·ligència artificial. Suggereixo que pensem en la IA com una empresa de consultoria de gestió, seguint la línia de McKinsey & Company. Empreses com McKinsey es contracten per una gran varietat de motius, i els sistemes d'IA també s'utilitzen per molts motius. Però les similituds entre McKinsey —una consultora que treballa amb el noranta per cent de Fortune 100— i la IA també són clares. Les empreses de xarxes socials utilitzen l'aprenentatge automàtic per mantenir els usuaris enganxats als seus canals. De la mateixa manera, Purdue Pharmava utilitzar McKinsey per esbrinar com "turbocarregar" les vendes d'OxyContin durant l'epidèmia d'opioides. De la mateixa manera que la IA promet oferir als directius un reemplaçament barat per als treballadors humans, McKinsey i empreses similars van ajudar a normalitzar la pràctica dels acomiadaments massius com a forma d'augmentar els preus de les accions i la compensació dels executius, contribuint a la destrucció de la classe mitjana a Amèrica.

Un antic empleat de McKinsey ha descrit l'empresa com "els botxins voluntaris del capital ":
si voleu fer alguna cosa però no voleu embrutar-vos les mans, McKinsey ho farà per vosaltres. Aquesta fugida de la responsabilitat és un dels  serveis més valuosos que ofereixen les consultories de gestió. Els caps tenen determinats objectius, però no volen que se'ls culpabilitzi de fer el necessari per aconseguir aquests objectius; En contractar consultors, la direcció pot dir que només seguia l'assessorament d'experts independents. Fins i tot en la seva forma rudimentària actual, la IA s'ha convertit en una manera per a una empresa d'evadir la responsabilitat dient que només està fent el que diu "l'algorisme", tot i que va ser l'empresa que va encarregar l'algorisme en primer lloc.

La pregunta que ens hauríem de fer és: a mesura que la IA es torna més potent i flexible, hi ha alguna manera d'evitar que sigui una altra versió de McKinsey?

Val la pena considerar la pregunta en diferents significats del terme "IA". Si penseu en la IA com un conjunt ampli de tecnologies que es comercialitzen a les empreses per ajudar-les a reduir els seus costos, la pregunta és: com evitem que aquestes tecnologies funcionin com "els botxins voluntaris del capital”?
Alternativament, si imagineu la IA com un programa de programari semi-autònom que resol problemes que els humans li demanen que resolgui, la pregunta és aleshores:
com evitem que aquest programari ajudi les corporacions de manera que empitjori la vida de les persones?

Suposem que heu construït una IA semi-autònoma que és totalment obedient als humans, un que comprova repetidament per assegurar-se que no ha malinterpretat les instruccions que ha rebut. Aquest és el somni de molts investigadors d'IA. Tanmateix, aquest programari podria causar tant de dany com McKinsey.


Tingueu en compte que no podeu dir simplement que creareu una IA que només ofereix solucions prosocials als problemes que li demaneu que solucioni. Això és l'equivalent a dir que podeu desactivar l'amenaça de McKinsey iniciant una empresa de consultoria que només ofereixi aquestes solucions.
La realitat és que les empreses de Fortune 100 contractaran McKinsey en lloc de la vostra empresa pro-social, perquè les solucions de McKinsey augmentaran el valor dels accionistes més que les solucions de la vostra empresa. Sempre serà possible construir una IA que persegueixi el valor dels accionistes per sobre de tot, i la majoria de les empreses preferiran utilitzar aquesta IA en lloc d'una limitada pels vostres principis.

Hi ha alguna manera perquè la IA faci alguna cosa que no sigui esmolar la fulla del ganivet del capitalisme?
Per ser clar, quan em refereixo al capitalisme, no parlo de l'intercanvi de béns o serveis per preus determinats per un mercat, que és propietat de molts sistemes econòmics. Quan em refereixo al capitalisme, parlo d'una relació concreta entre capital i treball, en la qual els particulars que tenen diners poden treure profit de l'esforç dels altres. Per tant, en el context d'aquesta discussió, sempre que critico el capitalisme, no critico la idea de vendre coses; estic criticant la idea que les persones que tenen molts diners poden exercir poder sobre les persones que realment treballen. I, més concretament, critico la concentració cada cop més gran de la riquesa entre un nombre cada cop més reduït de persones.

Tal com s'està desplegant actualment, la IA sovint suposa un esforç per analitzar una tasca que realitzen els éssers humans i trobar una manera de substituir l'ésser humà. Casualment, aquest és exactament el tipus de problema que la direcció vol resoldre. Com a resultat, la IA ajuda el capital a costa de la mà d'obra. Realment no hi ha res com una empresa de consultoria laboral que promogui els interessos dels treballadors. És possible que la IA assumeixi aquest paper?
La IA pot fer alguna cosa per ajudar els treballadors en lloc de la direcció?

Alguns podrien dir que no és feina de l'IA oposar-se al capitalisme. Això pot ser cert, però tampoc és feina de la IA enfortir el capitalisme. Tanmateix, això és el que fa actualment. Si no podem trobar maneres perquè la IA redueixi la concentració de riquesa, aleshores diria que és difícil argumentar que la IA és una tecnologia neutral, i molt menys beneficiosa.

Molta gent pensa que la IA crearà més atur i plantejarà la renda bàsica universal, o UBI (universal basic income en anglès), com a solució a aquest problema. En general, m'agrada la idea de la renda bàsica universal;
no obstant això, amb el temps, m'he tornat escèptic sobre la manera com les persones que treballen en IA suggereixen UBI com a resposta a l'atur impulsat per la IA. Seria diferent si ja tinguéssim ingressos bàsics universals, però no ho tenim, així que expressar el seu suport sembla una manera perquè les persones que desenvolupen IA passin els diners al govern. En efecte, estan intensificant els problemes que crea el capitalisme amb l'expectativa que, quan aquests problemes siguin prou greus, el govern no tindrà més remei que intervenir. Com a estratègia per fer del món un lloc millor, això sembla dubtós.

prompt= a painting of Susan Sarandon, Edward Hopper style

Potser recordeu que, de cara a les eleccions del 2016, l'actriu Susan Sarandon —que era una fervent defensora de Bernie Sanders— va dir que votar per Donald Trump seria millor que votar per Hillary Clinton perquè provocaria la revolució. més ràpid. No sé fins a quin punt Sarandon havia pensat això, però el filòsof eslovè Slavoj Žižek va dir el mateix, i estic bastant segur que hi havia pensat molt.
Va argumentar que l'elecció de Trump seria un xoc per al sistema que comportaria un canvi.

El que defensava Žižek és un exemple d'una idea de la filosofia política coneguda com a acceleracionisme. Hi ha moltes versions diferents de l'acceleració, però el fil conductor que uneix els acceleracionistes d'esquerra és la idea que l'única manera de millorar les coses és empitjorar les coses. L'acceleracionisme diu que és inútil intentar oposar-se o reformar el capitalisme; en canvi, hem d'exacerbar les pitjors tendències del capitalisme fins que tot el sistema es trenca. L'única manera d'anar més enllà del capitalisme és prement el pedal del gas del neoliberalisme fins que el motor exploti.

prompt= a painting of Slavoj Žižek, Edward Hopper style

Suposo que aquesta és una manera d'aconseguir un món millor, però, si és l'enfocament que està adoptant la indústria de l'IA, vull assegurar-me que tothom tingui clar en què està treballant. Mitjançant la creació de la IA per fer feines anteriorment realitzades per persones, els investigadors d'IA augmenten la concentració de la riquesa a nivells tan extrems que l'única manera d'evitar el col·lapse de la societat és que el govern intervingui. Intencionalment o no, això és molt semblant a votar per Trump amb l'objectiu de crear un món millor. I l'ascens de Trump il·lustra els riscos de perseguir l'acceleració com a estratègia: les coses poden anar molt malament, i romandre molt malament durant molt de temps, abans que millorin. De fet, no tens ni idea de quant de temps trigaran a que les coses millorin;

No estic gaire convençut de les afirmacions que la IA suposa un perill per a la humanitat perquè podria desenvolupar objectius propis i impedir que l'apaguem. Tanmateix, crec que la IA és perillosa en la mesura que augmenta el poder del capitalisme. L'escenari del dia del judici final no és una IA de fabricació que transformi tot el planeta en clips de paper, com s'ha imaginat un famós experiment mental. Es tracta de corporacions sobrealimentades amb intel·ligència artificial que destrueixen el medi ambient i la classe treballadora en la seva recerca del valor per als accionistes. El capitalisme és la màquina que farà el que calgui per evitar que l'apaguem, i l'arma més exitosa del seu arsenal ha estat la seva campanya per evitar que ens plantegem cap alternativa.

Les persones que critiquen les noves tecnologies de vegades s'anomenen luddites, però és útil aclarir què volien realment els luddites. El principal que protestaven era el fet que els seus salaris baixaven al mateix temps que els beneficis dels propietaris de les fàbriques augmentaven, juntament amb els preus dels aliments. També protestaven per les condicions laborals insegures, l'ús del treball infantil i la venda de productes de mala qualitat que desprestigia tota la indústria tèxtil. Els luddites no van destruir màquines indiscriminadament; si el propietari d'una màquina pagava bé als seus treballadors, ho deixaven en pau. Els luddites no eren antitecnològics; el que ls propietaris de les fàbriques.
El fet que la paraula "ludita" s'utilitzi ara com un insult, una manera d'anomenar algú irracional i ignorant.

Sempre que algú acusa algú més de ser luddita, val la pena preguntar-se, la persona que està acusada és realment contra la tecnologia?
O estan a favor de la justícia econòmica?
I la persona que fa l'acusació està realment a favor de millorar la vida de les persones?
O només estan intentant augmentar l'acumulació privada de capital?

Avui ens trobem en una situació en què la tecnologia s'ha combinat amb el capitalisme, que al seu torn s'ha combinat amb la mateixa noció de progrés. Si intenteu criticar el capitalisme, se us acusa d'oposar-vos tant a la tecnologia com al progrés.
Però, què significa fins i tot el progrés, si no inclou una vida millor per a les persones que treballen?
Quin sentit té una major eficiència, si els diners que s'estalvien no van a cap lloc excepte als comptes bancaris dels accionistes?
Tots hauríem d'esforçar-nos per ser luddites, perquè tots hauríem d'estar més preocupats per la justícia econòmica que per augmentar l'acumulació privada de capital. Hem de ser capaços de criticar els usos nocius de la tecnologia —i aquests inclouen els usos que beneficien els accionistes per sobre dels treballadors— sense ser descrits com a opositors a la tecnologia.

Imagineu-vos un futur idealitzat, d'aquí a cent anys, en què ningú es vegi obligat a treballar en qualsevol feina que no li agradi, i cadascú pugui dedicar el seu temps a allò que cregui més satisfactori personalment. Evidentment, és difícil veure com arribaríem allà des d'aquí. Però ara considerem dos possibles escenaris per a les properes dècades.

En un, la gestió i les forces del capital són encara més poderoses que ara.

En l'altra, la mà d'obra és més poderosa que ara.

Quina d'elles sembla més probable que ens apropi a aquest futur idealitzat?
I, tal com està desplegat actualment, cap a quin ens està empenyent la IA?

prompt= a paiting of Ronald Reagan as caricatura

Per descomptat, hi ha l'argument que les noves tecnologies milloren el nostre nivell de vida a llarg termini, la qual cosa compensa l'atur que genera a curt termini. Aquest argument va tenir pes durant gran part del període posterior a la Revolució Industrial, però ha perdut força durant l'últim mig segle. Als Estats Units, el PIB per càpita gairebé s'ha duplicat des del 1980, mentre que la renda mitjana de les llars ha quedat molt endarrerida. Aquest període cobreix la revolució de les tecnologies de la informació. Això vol dir que el valor econòmic creat per l'ordinador personal i Internet ha servit principalment per augmentar la riquesa de l'un per cent superior de l'un per cent superior, en lloc d'elevar el nivell de vida dels ciutadans nord-americans en conjunt.

Per descomptat, tots tenim Internet ara, i Internet és increïble. Però els preus immobiliaris, la matrícula universitària i els costos sanitaris han augmentat més ràpidament que la inflació. L'any 1980, era habitual mantenir una família amb una única renda; ara és rar. Aleshores, quants progressos hem fet realment en els últims quaranta anys? Per descomptat, comprar en línia és ràpid i fàcil, i la reproducció de pel·lícules a casa és fantàstica, però crec que molta gent canviaria de bon grat aquestes comoditats per la possibilitat de posseir la seva pròpia llar, enviar els seus fills a la universitat sense tenir deutes per a tota la vida i anar a l'hospital sense caure en fallida. No és culpa de la tecnologia que la renda mitjana no hagi seguit el ritme del PIB per càpita; la culpa és sobretot de Ronald Reagan i Milton Friedman. Però una mica de responsabilitat també recau en les polítiques de gestió de consellers delegats com Jack Welch , que va dirigir General Electric entre 1981 i 2001, així com en empreses de consultoria com McKinsey. No culpo a l'ordinador personal de l'augment de la desigualtat de la riquesa; només dic que l'afirmació que una millor tecnologia necessàriament millorarà el nivell de vida de la gent ja no és creïble.

prompt= a paiting of MIlton Friedman , Boris Vallejo style

[Continua a la segona part]