El historiador israelí publicó un artículo en Financial Times donde advierte sobre los riesgos de otorgar personalidad jurídica a agentes de inteligencia artificial.
El historiador y filósofo israelí Yuval Noah Harari, autor de obras como Nexus, cuestionó este lunes un artículo del presidente argentino Javier Milei publicado la semana pasada en el diario Financial Times. En ese texto, Milei se mostró a favor de crear “sociedades automatizadas” que funcionen con algoritmos o robots, sin intervención humana directa. La iniciativa fue formalizada como proyecto de ley por el ministro de Desregulación, Federico Sturzenegger.
Harari escribió en el mismo medio un artículo titulado “No debemos otorgar personalidad jurídica a los agentes de IA”, en el que señaló: “Cuando hablé en el Foro Económico Mundial en enero de este año, advertí que los gobiernos podrían algún día otorgar personalidad jurídica a los modelos de IA. Jamás imaginé que ese ‘algún día’ llegaría tan solo cuatro meses después”.
En su texto, Harari describió la propuesta de Milei: “La semana pasada, en este periódico, el presidente argentino Javier Milei anunció la creación de una nueva categoría jurídica para las corporaciones no humanas. Al igual que las corporaciones tradicionales, estas corporaciones no humanas gozarán de los beneficios de la personalidad jurídica. Presumiblemente, podrán poseer activos, contratar empleados, participar en el comercio internacional, demandar ante los tribunales e incluso donar a campañas políticas”.
Harari advirtió que “otorgar personalidad jurídica a las IA permitiría a los agentes de IA emprender numerosas iniciativas nuevas, generando potencialmente una enorme riqueza. Sin embargo, la personalidad jurídica es una llave de uso general que también les permitiría acceder a nuestros sistemas financieros, económicos y políticos”.
El historiador también señaló riesgos en materia de sanciones: “Gracias a su superior capacidad analítica, las corporaciones de IA estarán en posición de convertirse en expertas en lagunas legales y arbitraje regulatorio. Y no será fácil disuadirlas de participar en actividades directamente ilegales, ya que la máxima sanción que disuade a los ejecutivos y empleados humanos —la cárcel— resulta irrelevante para las IA”.
Harari refutó el ejemplo histórico citado por Milei sobre la Compañía Holandesa de las Indias Orientales. Sostuvo que “las consecuencias de esta innovación se sintieron más agudamente no en Amsterdam, sino en el puerto de Jayakarta, en lo que hoy es Indonesia. Cuando la Compañía Holandesa de las Indias Orientales capturó Jayakarta en 1619, la quemaron y construyeron una nueva ciudad en su lugar. Lo llamaron Batavia, y se convirtió en la sede de un extenso imperio asiático administrado por la Compañía Holandesa de las Indias Orientales”.
Y concluyó: “Los países que otorgan a las IA la personalidad legal corren el riesgo de convertirse en algo para lo que el registro histórico no ofrece analogía: no un estado corporativo, sino un estado de IA, un país cuyo pueblo podría, en efecto, ser gobernado por corporaciones no humanas, contra las que podría ser aún más difícil rebelarse. Milei espera convertir a Buenos Aires en un nuevo Amsterdam. En su lugar, se arriesga a convertirlo en un nuevo Batavia”.