|
Elon Musk demanda a OpenAI y a Sam
Altman por “olvidarse de proteger a la humanidad” de la IA
Elon Musk está demandando a OpenAI y a Sam Altman por abandonar
supuestamente la misión original de dicha compañía de desarrollar
inteligencia artificial (IA) en beneficio de la humanidad.
“OpenAI, Inc. se ha transformado en una filial de facto de código
cerrado de la mayor empresa tecnológica del mundo: Microsoft”,
afirmaron los abogados de Musk en la demanda, presentada a última
hora del jueves en San Francisco (California, EE UU).
“Bajo su nueva junta directiva, no solo está desarrollando, sino que
está perfeccionando una IAG [Inteligencia Artificial General] para
maximizar las ganancias de Microsoft, en lugar de hacerlo por el
bien de la humanidad”, asevera el documento. “Por lo que sabemos,
GPT-4 es un algoritmo de IAG”.
Elon Musk vs la IA de Sam Altman
OpenAI, que cuenta con Musk entre sus cofundadores, posee una
estructura corporativa única. Es una organización sin fines de lucro
encargada de proteger a la humanidad contra la inteligencia general
artificial, o IAG, un sistema hipotético de IA que supera a los
humanos en la mayoría de las tareas. Pero a finales de 2019, después
de que Musk abandonara el consejo de administración de la empresa,
esta estableció una rama con propósitos comerciales y un enfoque
menos altruista. La popularidad exponencial de ChatGPT y la demanda
del modelo de IA GPT-4 en el que se basa impulsaron que esa división
de la compañía alcance un valor de 80,000 millones
de dólares, de acuerdo
con Reuters, lo que provocó el enojo de Musk. El año pasado, el
multimillonario declaró a la CNBC que él era “la razón de que OpenAI
exista”, gracias a sus inversiones pasadas.
La demanda apunta a la relación de OpenAI con Microsoft, que
invirtió unos 13,000 millones de dólares en la división comercial de
la empresa de IA, en una controvertida alianza que suscitó el
escrutinio de los reguladores de Estados Unidos,
|
|
la Unión Europea y Reino Unido. El regulador británico, la Autoridad de
Competencia y de Mercados, comunicó en diciembre que estaba
investigando si las dos empresas se habían fusionado realmente. Ni
OpenAI ni Microsoft han respondido a la solicitud de comentarios de
WIRED.
La acusación sostiene que el diseño interno de GPT-4, el último
modelo de la compañía, permanece en secreto porque Microsoft y
OpenAI esperan hacer una fortuna vendiendo al público el acceso al
sistema de IA. “GPT-4 es, por tanto, lo contrario a la ‘IA
abierta’”, se lee en el documento.
Los sistemas de inteligencia artificial existen en un rango de
apertura que va desde el código totalmente abierto al completamente
cerrado, dependiendo de hasta qué punto se comparte su
funcionamiento interno con los investigadores y el público en
general. Los partidarios del código abierto argumentan que este
enfoque permite una mayor transparencia y potencial de innovación.
Los que están en contra advierten de que pone potentes modelos de IA
a disposición de delincuentes o adversarios geopolíticos. El modelo
Llama 2 de Meta se puede descargar, modificar y utilizar libremente,
aunque con algunas limitaciones de uso, mientras que GPT-4 no.
“Recordemos que Elon Musk tiene varios proyectos competidores de IA,
pero sobre todo [fundó] xAI, una empresa que compite en IA”, destaca
David Shrier, profesor de Práctica, IA e Innovación en la Escuela de
Negocios del Imperial College de Londres.
Añade que la demanda quizá sea un
intento de frenar la competencia en beneficio de xAI.
En cualquier caso, Shrier considera que la acción legal de Musk refleja una
preocupación más general por el éxito comercial de OpenAI, que en sus estatutos
de fundación se compromete a evitar usos de la IA o la IAG que perjudiquen a la
humanidad o concentren indebidamente el poder. “Tiene razón, en el sentido de
que la misión original de OpenAI parece ser algo diferente de la dirección que
está tomando la empresa actualmente”, asevera Shrier.
Una demanda para proteger a la humanidad de la IAG, según Musk
La rama sin fines de lucro de OpenAI era esencial para la visión inicial de la
compañía. “En teoría, la organización sin fines de lucro controla la parte de la
empresa con propósitos comerciales”, observa
|
|
Nicolas Moës, director ejecutivo
de Future Society, un grupo de expertos con sede en Bruselas (Bélgica). Altman
ha apoyado esa estructura abiertamente. “El consejo de administración puede
despedirme, creo que eso es importante”, declaró el CEO a Bloomberg en junio.
Sin embargo, cuando el consejo intentó despedirlo en noviembre, Altman fue
restituido como CEO tras cinco días de drama que incluyeron una amenaza de éxodo
del personal y el anuncio por parte de Microsoft de la contratación de
directivos clave de OpenAI, incluido Altman, para dirigir su propio equipo de
inteligencia artificial. “La crisis de la junta directiva de OpenAI en noviembre
demostró que esta parte del negocio sin fines de lucro básicamente no tiene nada
que decir, está totalmente desorganizada y el propio consejo no controla
realmente lo que hace la organización con propósitos comerciales”, opina Moës.
Cuando Altman se reincorporó a OpenAI, anunció un nuevo puesto sin derecho a
voto en el consejo administrativo para Microsoft.
“Esta disputa subraya una cuestión más amplia, que es el hecho de que muchas
startups de IA, como OpenAI, se encuentran en una posición en la que dependen de
las finanzas y la infraestructura de las Big Tech debido a la enorme capacidad
de procesamiento que la IA necesita para desarrollarse”, afirma Laura Lazaro
Cabrera, asesora y directora del programa de equidad y datos del Center for
Democracy and Technology (Centro para la Democracia y la Tecnología), una
organización sin fines de lucro.
La demanda presenta a Musk como una figura central en la reciente evolución de
la inteligencia artificial, así como alguien profundamente preocupado por la
dirección que está tomando la industria. “El señor Musk reconoce desde hace
tiempo que la IAG supone una grave amenaza para la humanidad”, resalta, “quizá
la mayor amenaza para la existencia a la que nos enfrentamos hoy”. |
