Escrito con la colaboración de Miguel Paredes. Leer más La lógica de la ganancia amenaza la humanidad.

Las condiciones burguesas de producción y de cambio, el régimen burgués de la propiedad, toda esta sociedad burguesa moderna, que ha hecho surgir tan potentes medios de producción y de cambio, se asemejan al aprendiz de brujo que no sabe dominar las potencias infernales que ha invocado.

Karl Marx y Friedrich Engels, El Manifiesto Comunista

«¿Deberíamos arriesgar la pérdida del control de nuestra civilización?». Esa es la ominosa pregunta que se hacen sobre la Inteligencia Artificial algunos de los más importantes representantes de la industria tecnológica del mundo.

Un grupo de expertos en tecnología de software y magnates empresarios de la relevancia de personajes como Elon Musk y Steve Wozniak (co fundador de Apple) publicaron una carta abierta solicitando a todos los laboratorios de Inteligencia Artificial que cesen el entrenamiento y desarrollo de nuevas tecnologías más potentes que chatGPT-4. Piden una pausa de seis meses a todas las investigaciones en curso.

Las noticias sobre el creciente desarrollo de la Inteligencia Artificial se venían acumulando hace ya algunos años. Y, ahora, millones sabemos que algunos de los principales responsables de estas nuevas tecnologías advierten que «la humanidad» (ni más ni menos) estaría en peligro.

Que muchas de estas firmas sean de empresarios que poco tienen que ver con la investigación en sí, como Elon Musk, cambia poco. Se puede desconfiar de personas con más mérito en cómo se venden a sí mismos y lo que producen otros que en sus aportes a la ciencia y tecnología. Es incluso inteligente hacerlo.

Pero hay dos cosas en esta carta que son muy poco comunes. La primera, que sean parte de esta alarma tantos expertos que no son meros comerciantes de ideas ajenas. La segunda, no es muy común ver que capitalistas con todos los recursos para llevar la delantera en la competencia en nuevos desarrollos tecnológicos llamen a detenerla. Estas cosas solamente pasan cuando los empresarios sienten el peligro de sufrir en carne propia las consecuencias de su propia actividad.

Todas las relaciones sociales modernas están mediadas por la tecnología de la comunicación, de internet, de la informática. La logística, la organización de la producción, la distribución de necesidades básicas… incluso las afectivas y sexuales. La advertencia de la «carta» parece ser esta: la humanidad podría perder el control de algunas de esas palancas fundamentales de la civilización contemporánea.

No es poco y suena exagerado. Pero a esta altura parece ser más prudente tomarla en serio. Es útil recordar lo difícil que fue para la mayoría de nosotros escuchar con la atención suficiente las primeras advertencias sobre la gravedad del covid-19.

Hay que saber que las motivaciones de esta carta pueden ser meramente comerciales: muchos de los principales desarrollos en nuevas IAs son de empresas más pequeñas, que pueden llegar a hacerle sombra a monstruos como Apple y Google.

La cultura de la ciencia ficción parece haberse adelantado en varias décadas a los problemas del capitalismo moderno. Si la pandemia y los sistemas de vigilancia nos remiten a las distopías, la Inteligencia Artificial trae a la realidad los dramas existenciales planteados por el cyberpunk.

Películas clásicas como Blade Runner y Ghost in the Shell nos mostraban un futuro no muy distante en el que sus personajes debían lidiar con el conflicto de no poder establecer claramente las fronteras entre lo humano y lo artificial, entre la personalidad y sus imitaciones. Ambas dejaban planteada una conclusión terrible: que la distinción entre una cosa y otra ya no era posible. Estamos lejos de eso, que sigue siendo ciencia ficción, pero nuestros problemas comienzan a parecerse a los de la ciencia ficción. Y no a los escritos por los optimistas del género. Dicho eso, por ahora es absurdo entender el concepto de «inteligencia» en un sentido demasiado literal, como lo hace la ciencia ficción. El problema es más bien que algunas tecnologías puedan salirse de control en un futuro no tan lejano, no que la «inteligencia artificial» cobre personalidad propia realmente.

Marx decía que la fetichización de las relaciones sociales capitalistas implicaba que se nos presenten como relaciones entre cosas lo que son relaciones entre personas. Los precios, por ejemplo, se nos presentan como relaciones entre el dinero y las mercancías, cuando en realidad son una relación entre productores, compradores y vendedores. La advertencia sobre la Inteligencia Artificial parece plantear un problema nuevo: que las relaciones sociales entre personas mediadas por cosas (celulares, internet…) comiencen a convertirse en relaciones de personas con cosas, muchas veces sin que podamos realmente darnos cuenta.

El capitalismo y la tecnología

Este momento en nuestra historia podría ser el primer capítulo de un muy largo debate, uno que dure generaciones. No es la primera vez que un avance en las fuerzas productivas derive en peligros inmensos, en fuerzas destructivas. Los combustibles fósiles fueron un gran salto adelante que nos llevó a la actual crisis climática. El desarrollo científico desinteresado permitió luego el de las armas nucleares. Si el peligro de una guerra nuclear nunca se disipó del todo y hoy parece regresar, la advertencia décadas atrás sobre el cambio climático comienza a convertirse en una catastrófica y actualísima realidad.

Al menos por ahora, las advertencias de la carta abierta no deberían ser tomadas a la ligera. Ahora bien, con solamente leer la carta se puede advertir algo importante. Como con otros desarrollos previos, la tecnología por sí misma no es el único peligro.

Su forma específicamente capitalista, orientada a la caótica lucha por el lucro, es el principal de los problemas. Contra todo pronóstico, ya en el primer párrafo de la carta abierta, personajes como Elon Musk hacen lo que parece ser un alegato anticapitalista muy claro:

«Según los Principios de IA de Asilomar ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debería ser planificada y gestionada con recursos y cuidados correspondientes. Desafortunadamente, este nivel de planificación y gestión no está sucediendo, aunque en los últimos meses los laboratorios de IA han estado encerrados en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable».

Las advertencias sobre la «carrera fuera de control para desarrollar e implementar mentes digitales» son una descripción bastante exacta de cómo funciona el capitalismo mismo. El pedido de «planificación con recursos y cuidados correspondientes», la de una sociedad que no es la actual.

Los firmantes hablan de la necesidad de establecer una serie de protocolos de seguridad que sean de carácter normativo. Además, el cumplimiento de estos protocolos debería ser auditable por expertos externos.

Los «controles» de este tipo se han intentado hacer bajo el régimen de la propiedad privada de los medios de producción una y otra vez. Se han parecido siempre a los intentos de frenar la marea con las manos: si algo de agua puede quedar entre los dedos, la corriente sigue su curso. El límite ha sido siempre la soberanía absoluta de la propiedad capitalista. Si los sindicatos y las leyes laborales han logrado mitigar las explotación para millones, las peores formas de esclavitud asalariada reaparecen siempre bajo nuevas formas y en nuevos lugares. Si las regulaciones y protocolos ambientales frenan parcialmente la destrucción del planeta, vuelve con vigor con nuevas «industrias» (como el minado de criptomonedas) y en países con recursos todavía por saquear. Esto último sin que los grandes emisores de CO2 dejen nunca de serlo.

La carta también expresa la necesidad de la creación de un marco regulatorio, que contemple alguna forma de rastreo de las IAs. No solo eso sino que además pide la creación de instituciones para hacer frente a los dramáticos cambios políticos y económicos que pudiera ocasionar. Algunos de los más notorios y rabiosos partidarios del «libre mercado» como Elon Musk nos traen de nuevo las viejas utopías del siglo XX de un capitalismo racionalizado y regulado. Las mismas que se esfumaron cuando desapareció el peligro del «socialismo real», de los regímenes burocráticos autodenominados «comunistas».

La tecnología y sus consecuencias son también una relación social específica. Lo que en ciertas condiciones podría ser un inmenso beneficio para la humanidad se convierte en regresión y barbarie en otras. Ya Marx clásicamente lo decía respecto a la maquinaria fabril: lo que racionalmente podría acortar el tiempo de trabajo no hace sino alargarlo para los que tienen la suerte de seguir empleados.

La «singularidad», el trabajo enajenado y la inteligencia artificial

En torno a la robótica, la Inteligencia Artificial y las nuevas tecnologías, la mayoría de las reflexiones marxistas se han dedicado al estudio de su impacto en el mundo del trabajo. Más concretamente, en el mundo del trabajo enajenado. En su impacto específico en el proletariado contemporáneo, en la explotación capitalista y la producción de valor y valores de uso.

En términos generales, podemos decir que las afirmaciones sobre la desaparición de la clase obrera, las teorizaciones sobre un capitalismo que no dependa de la explotación del trabajo, han sido total y completamente desmentidas por los hechos. El avance de la maquinaria ha planteado el problema de la desaparición de puestos de trabajo desde el siglo XVIII, y sobre eso han escrito hasta Adam Smith y David Ricardo.

Han pasado ya más de 40 años desde que André Gorz preguntó «¿adiós al proletariado?», muchos convirtieron el interrogante en afirmación y la vida misma respondió con una respuesta categóricamente negativa. El capital y su necesidad de autovalorización son el límite social a la «robotización» de la producción, porque el trabajo humano sigue siendo la única fuente de valor y, por lo tanto, de plusvalor. Para más desarrollo, invitamos a leer «Los límites de la automatización capitalista«, de Marcelo Giecco.

Pero la carta abierta plantea otro problema. «¿Deberíamos automatizar todos los trabajos, incluso los satisfactorios?» se pregunta. Su preocupación central no es en torno al trabajo enajenado, sino la actividad humana no enajenada.

¿De qué hablamos cuando hablamos de la enajenación del trabajo? Marx escribía:

“No es como en el caso del instrumento, al que el obrero anima como un órgano, con su propia destreza y actividad y cuyo manejo depende por tanto de la virtuosidad de aquel. Sino que la máquina, dueña en lugar del obrero de la habilidad y la fuerza, es ella misma virtuosa, posee un alma propia presente en las leyes mecánicas que operan en ella (…) la actividad del obrero, reducida a una mera abstracción de la actividad, está determinada y regulada en todos los aspectos por el movimiento de la maquinaria, y no a la inversa. La ciencia, que obliga a los miembros inanimados de la máquina a operar como un autómata conforme a un fin, no existe en la conciencia del obrero, sino que opera a través de la máquina, como poder ajeno, como poder de la máquina misma sobre aquél” (Marx citado por Roberto Sáenz en La lógica de la ganancia amenaza a la humanidad; Marx, Elementos fundamentales para la crítica de la economía política, 1857/8, Siglo Veintiuno Editores, México, 1980, Grundrisse, 219).

En la producción capitalista, la inventiva, la creatividad, la destreza; todo lo que puede hacer satisfactorio el trabajo le es arrebatado al productor. La máquina es «dueña en lugar del obrero de la habilidad y la fuerza, es ella misma virtuosa».

Pero la máquina, el autómata, tiene un inventor, un organizador, un planificador. El uso de las fuerzas de la naturaleza a través de la ciencia es todavía, hasta hoy, la aplicación de los conocimientos acumulados por generaciones por parte de individuos concretos.

Por más automatizada que esté la producción, su dirección sigue en manos de personas. Lo que en el trabajo artesanal y tradicional eran funciones de un mismo individuo, el cerebro y la mano, se han convertido en las de dos clases sociales diferentes. La clase capitalista, como organizadora del proceso productivo, no solamente ha monopolizado históricamente la propiedad de los medios de producción. También ha logrado monopolizar la mayoría de las actividades creativas, no enajenantes. Si el obrero siente que el producto de sus propias manos no es suyo, el capitalista siente que el producto de las manos de otros no puede ser sino de él.

Sin embargo, con la difusión histórica de la educación y la especialización, han surgido capas cada vez más grandes de trabajadores altamente especializados. Los cuerpos técnicos intermedios (como los programadores), a veces con salarios relativamente muy altos, son cada vez más numerosos. Su función, que era parte hasta hace poco parte del proceso creativo y de dirección, pasa por un creciente proceso de nueva enajenación. Delegando cada vez más en estos asalariados algunas de sus funciones, el personal dirigente más alto de la empresa capitalista es más y más puramente parasitario. Su ejemplo más acabado son los accionistas de las sociedades anónimas, que se dedican a cobrar dinero sin hacer absolutamente nada. Un derecho ganado, claro está, por haber tenido mucho dinero antes.

La informática no ha revolucionado necesariamente el mundo de la producción sino el de la organización de la producción. Son las funciones dirigentes de la sociedad capitalista las que podrían estar en peligro de perderse para la humanidad según los más de 700 firmantes.

El siglo pasado se hablaba del momento de la «singularidad» en el que las inteligencias no humanas, los «robots», tomarían irreversiblemente el control de la sociedad.

«En todo caso, lo que nos interesa es sentar nuestra posición “antropológica” respecto de la ubicación de la humanidad en el cosmos, que si fuera dejada de lado, si la humanidad perdiera su lugar de sujeto histórico, los conceptos mismos que estamos tratando en este texto perderían sentido y caeríamos en una suerte de distopía al estilo La obsolescencia del hombre, de Günther Anders, donde las máquinas dominan a la humanidad, reflejando una de las tendencias en obra pero de manera complemente unilateral.

Porque, en definitiva, el trabajo humano, la fuerza de trabajo y el trabajador, son el sujeto de estas relaciones. El trabajo humano es el factor activo en la creación de la riqueza y la transformación del mundo, no importa cuán “exquisita” o “automatizada” se vuelva esta relación» (Roberto Sáenz, La lógica de la ganancia amenaza a la humanidad).

No, la humanidad no ha perdido aún el control sobre sí misma. ¿Podría perderla a corto o mediano plazo? Esa es la pregunta planteada.

Es fácil imaginarse la «rebelión» de las máquinas contra la humanidad en un formato parecido al de las rebeliones humanas contra sus dominadores humanos. Es la influencia del cine y la literatura. Si Yo, Robot de Isaac Asimov fue pionero en el planteo, tal vez la más emblemática máquina rebelde sea Skynet, de la saga de películas Terminator.

Afortunadamente, no es eso lo que está pasando. Pero nuestra fortuna tiene poco alcance. Podemos tener muchos y muy graves problemas, pese a que robots asesinos con ametralladoras no sea uno de ellos.

«El martes 23 de abril de 2013, cuando el reloj marcaba las 13:07, los operadores en el piso de remates de la Bolsa de Valores en Nueva York vieron el siguiente mensaje de Twitter en sus monitores: Última: Dos explosiones en la Casa Blanca; Barack Obama, herido. En unos instantes el mercado entró en una caída vertiginosa y en los siguientes 90 segundos el indicador Dow Jones perdió 160 puntos, eliminando las ganancias del día. En minutos se confirmó que el mensaje era falso. Había sido generado por hackers que penetraron la cuenta de la agencia Associated Press. Y así como había comenzado el vendaval, de pronto todo regresó a la normalidad. Pero en esos minutos de frenesí financiero se generaron pérdidas por más de 140 mil millones de dólares.

 

El episodio ilustra de manera singular uno de los principales problemas que enfrenta en la actualidad la globalización financiera, en la medida en que se ha ido profundizando el empleo de sistemas de inteligencia artificial (IA). Hoy, cerca de 70 por ciento de transacciones en los mercados financieros se lleva a cabo mediante computadoras institucionales. Y, por supuesto, la velocidad de las transacciones se ha acelerado vertiginosamente. En los mercados de bolsa más desarrollados del mundo un título permanece en manos de un participante del mercado un promedio de 22 segundos antes de entrar nuevamente en otra transacción. La especulación automatizada ya domina en los mercados financieros» (Alejandro Nadal, Especulando con la inteligencia artificial).

Las transacciones de las bolsas de valores están informatizadas. La organización de la producción y distribución de bienes en todo el mundo están informatizadas. Todos los intercambios culturales están informatizados. Incluso los nuevos armamentos están informatizados.

Si la humanidad perdiera el control sobre alguna de estas cosas, a la irracionalidad humana propia del capitalismo se le podría sumar la de inteligencias no humanas. De ser ciertas las advertencias de los Musk y los Wozniak, no solamente podríamos perder el control sobre aspectos de la dirección de la sociedad y de actividades no enajenantes que son «una necesidad vital» (Marx). También pueden empeorar muchos de los rasgos más destructivos del capitalismo: las crisis, la irracionalidad, las guerras…

La Inteligencia Artificial, el capitalismo, la cultura y la «democracia»

Un artículo muy interesante salió en el New York Times sobre esta temática, luego de la publicación de la carta abierta. Firmada por Yuval Harari, Tristan Harris y Aza Raskin, fue traducido al español por La Nación. En general, el gran problema del artículo es su optimismo (ingenuo o cínico, lo mismo da) en los «controles» sobre el capitalismo. Pero tiene afirmaciones interesantes. Sobre todo, el planteo de que hay ya un antecedente del problema planteado por la Inteligencia Artificial, los algoritmos de las redes sociales:

El primer contacto entre la IA y la humanidad fueron las redes sociales, y la humanidad perdió. Pero ese primer contacto al menos nos ha dejado el sabor amargo de lo que nos espera. En las redes sociales, la primitiva IA no se usaba para generar contenidos, sino para seleccionar contenidos generados por los usuarios. La IA que alimenta nuestros feeds de noticias es la que elige las palabras, los sonidos y las imágenes que llegan a nuestras retinas y tímpanos, seleccionando aquellas con mayor potencial de viralización, mayor repercusión y mayor participación de otros usuarios.

 

Por primitiva que fuese, la IA que está detrás de las redes sociales alcanzó para crear una cortina de ilusiones que fogoneó la polarización social, dinamitó nuestra salud mental y dejó a la democracia hecha jirones. Millones de personas confunden esas ilusiones con la realidad. Estados Unidos tiene la mejor tecnología informática de mundo, pero sus ciudadanos ya no logran ponerse de acuerdo sobre el ganador de las elecciones. Aunque ya todo el mundo es consciente de los problemas que entrañan de las redes sociales, nadie aborda esos riesgos porque muchas de nuestras instituciones sociales, económicas y políticas quedaron enredadas.

En efecto. Las redes sociales han permitido la difusión de los planteos y las teorías más delirantes: el terraplanismo, la pandemia «inventada», los chips en las vacunas, el regreso a la vida de Kennedy para el apoyo a Trump… A todo esto se lo ha llamado «la era de la posverdad» o fake news.

El artículo, sin embargo, peca de unilateral cuando responsabiliza solo a las nuevas tecnologías de esta realidad. No son ellas en sí mismas sino su desarrollo y uso específicamente capitalista los que le han abierto el camino a este nuevo fenómeno. Hay que recordar que, en su momento, Twitter reconoció que su algoritmo beneficiaba la propagación de los mensajes de extrema derecha.

Las fake news, las noticias falsas, no son cosas nuevas en sí mismas. Es verdad lo que dicen los autores del artículo: «Por lo general, los humanos no tenemos acceso directo a la realidad: estamos envueltos por la cultura y experimentamos la realidad a través de un prisma cultural. Nuestras opiniones políticas se moldean al calor de los informes periodísticos y las charlas con los amigos. Nuestras preferencias sexuales se ven modificadas por el arte y la religión». La vieja propaganda antisemita del fascismo eran puras fake news mediadas por la imprenta y el papel en vez del internet y los celulares. En la era de las redes sociales lo que ha cambiado es la forma de las noticias falsas.

El «prisma cultural» del que hablan son también las instituciones: el Estado, las Iglesias, los partidos, etc. Las viejas fake news solían aparecer y difundirse de manera centralizada: las cúpulas del cristianismo durante siglos difundieron ampliamente el antisemitismo, las direcciones fascistas lo usaron en el siglo XX. Creer delirios estaba determinado por una relación más o menos directa de confianza en una organización conformada por personas con cara y nombre. Con las redes sociales, la «posverdad» toma otra forma: anónimamente, surge una «noticia» que mucha gente cree pese a no tener idea de quién la emitió, las redes sociales y su algoritmo le dan impulso a la mentira sin responsable identificable.

A las viejas instituciones se les sumó un nuevo actor: las empresas informáticas, los capitalistas de las nuevas tecnologías. Demagogos de la extrema derecha vienen haciendo uso de esta ventaja usando estas novedades como plataforma. Los prejuicios preexistentes por abajo se combinaron con empresas y figuras por arriba que le dieron lugar a nuevos delirios, muy parecidos a los del viejo fascismo. Basta recordar a una conductora de televisión tomando dióxido de cloro al aire como «medicina» contra el coronavirus.

Ahora bien, los creadores de información falsa siguen siendo personas, las redes sociales sólo las difunden. ¿Qué puede pasar si también la Inteligencia Artificial puede «crear» contenidos, noticias, incluso arte? La diferencia entre lo que es verdad y es mentira podría hacerse todavía mucho más difícil de distinguir. Un tweet o un mensaje de whatsapp con fake news podría no haber sido emitido por una persona pero que aparente que sí. En efecto, esa posibilidad es peligrosa.

Volvamos al principio de este artículo. Tomando en serio las advertencias de personajes como Musk y Wozniak: ¿cómo podría pasar todo esto? La Inteligencia Artificial no ha tomado el control de nada, las palancas fundamentales de las relaciones humanas siguen en manos humanas. Ellos mismos lo han dicho: la «competencia desenfrenada» y el uso irresponsable de las nuevas tecnologías pueden estar creando un nuevo peligro.

La única solución realista posible a largo plazo es que la tecnología deje de estar en manos de los dueños de una sociedad basada en la «competencia desenfrenada», de personas que (como Elon Musk) son aliados de los peores creadores de fake news del mundo. El lucro capitalista puede llevarnos a un nuevo y catastrófico problema… otra vez.

Terminar con la propiedad privada capitalista de las nuevas tecnologías, ponerlas bajo control de la sociedad, de los trabajadores y el pueblo, tal es la única solución posible a los peligros destructivos de estos progresos. 

La carta completa

Los sistemas de inteligencia artificial (IA) con inteligencia competitiva humana pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación y reconocido por los principales laboratorios de IA. Según los Principios de IA de Asilomar ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debería ser planificada y gestionada con recursos y cuidados correspondientes. Desafortunadamente, este nivel de planificación y gestión no está sucediendo, aunque en los últimos meses los laboratorios de IA han estado encerrados en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable.

 

Los sistemas de IA contemporáneos están comenzando a competir con los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos permitir que las máquinas inunden nuestros canales de información con propaganda y falsedades? ¿Deberíamos automatizar todos los trabajos, incluso los satisfactorios? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, inteligencia, obsolescencia y reemplazo? ¿Deberíamos arriesgar la pérdida del control de nuestra civilización? Tales decisiones no deben ser delegadas a líderes tecnológicos no elegidos. Los sistemas de IA poderosos deben desarrollarse solo cuando estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables. Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. La declaración reciente de OpenAI sobre la inteligencia artificial general afirma que «en algún momento, puede ser importante obtener una revisión independiente antes de comenzar a capacitar a los sistemas futuros, y para los esfuerzos más avanzados, acordar limitar la tasa de crecimiento del cómputo utilizado para crear nuevos modelos». Estamos de acuerdo. Ese momento es ahora.

 

Por lo tanto, hacemos un llamado a todos los laboratorios de IA para que detengan inmediatamente durante al menos 6 meses la capacitación de sistemas de IA más poderosos que GPT-4. Esta pausa debe ser pública y verificable e incluir a todos los actores clave. Si no se puede aplicar rápidamente una pausa de este tipo, los gobiernos deben intervenir e instituir un moratorio.

 

Los laboratorios de IA y los expertos independientes deben usar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo de IA avanzada que sean rigurosamente auditados y supervisados por expertos independientes externos. Estos protocolos deben garantizar que los sistemas que los cumplan sean seguros más allá de toda duda razonable. Esto no significa una pausa en el desarrollo de IA en general, simplemente un retroceso en la peligrosa carrera hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes.

 

La investigación y el desarrollo de la IA deberían centrarse en hacer que los sistemas de última generación sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.

Al mismo tiempo, los desarrolladores de IA deben trabajar con los responsables políticos para acelerar dramáticamente el desarrollo de sistemas sólidos de gobernanza de la IA. Estos deberían incluir como mínimo: nuevas autoridades regulatorias capaces y dedicadas a la IA; supervisión y seguimiento de sistemas de IA altamente capaces y grandes conjuntos de capacidades computacionales; sistemas de procedencia y marca de agua para ayudar a distinguir lo real de lo sintético y rastrear las fugas de modelos; un ecosistema sólido de auditoría y certificación; responsabilidad por daños causados por la IA; financiación pública sólida para la investigación técnica de seguridad de la IA; e instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente a la democracia) que la IA causará.

 

La humanidad puede disfrutar de un futuro próspero con la IA. Después de haber logrado crear sistemas de IA poderosos, ahora podemos disfrutar de un «verano de la IA» en el que cosechamos las recompensas, diseñamos estos sistemas para el beneficio claro de todos y damos a la sociedad la oportunidad de adaptarse. La sociedad ha pausado otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de un largo verano de la IA, sin apresurarnos sin preparación hacia un otoño.