Crearon una “IA Peligrosa”: La supuesta razón del despido de Sam Altman, CEO de OpenAI

El despido de Sam Altman de OpenAI el pasado 17 de noviembre de 2023 se vincula con el desarrollo de una Inteligencia Artificial General que en teoría, posee el potencial de ser una amenaza para la humanidad, según un reciente informe de Reuters que proporciona nuevas presuntas perspectivas sobre las posibles razones detrás de la decisión de despedir al Co-Fundador por parte de la junta directiva de la ya reconocida empresa que ha estado lidereando la revolución de la Inteligencia Artificial.

Conforme a dos fuentes mencionadas por la agencia Reuters, esta innovadora Inteligencia Artificial demuestra su capacidad para superar a los humanos en la mayoría de las tareas económicamente valiosas, evidenciando un nivel avanzado de procesamiento matemático.

Potenciales motivos del despido de Sam Altman

El informe de Reuters revela que cuatro días antes de la destitución de Altman, algunos investigadores alertaron a la junta directiva de OpenAI mediante una carta sobre este descubrimiento.

Según las fuentes, tanto la carta como el algoritmo de la nueva IA fueron determinantes en la decisión de su despido. La carta también expresaba preocupaciones sobre la comercialización prematura de este modelo de Inteligencia Artificial, antes de comprender completamente sus implicaciones.

Aunque OpenAI no emitió comentarios al respecto, confirmó la existencia de un proyecto denominado “Q*” y la recepción de la carta en un mensaje dirigido a su personal.

Dentro de OpenAI, algunos empleados consideran que Q* (Q-Star) representa un avance significativo en la búsqueda de la Inteligencia Artificial General (AGI), la cual se define como sistemas de IA que son “generalmente más inteligentes que los humanos“.

Según Reuters, este nuevo modelo ha demostrado su potencial al resolver problemas matemáticos, destacando su capacidad para superar pruebas a pesar de operar a un nivel primario.

Diferencias entre AGI y ChatGPT

El informe también destaca las diferencias entre una Inteligencia Artificial General y modelos como ChatGPT.

Y es que, como recientemente te platicamos en nuestra nota sobre la IAG, mientras que ChatGPT enfrenta desafíos en matemáticas debido a su enfoque estadístico para predecir la palabra siguiente, las IAG deben razonar a un nivel comparable al de la inteligencia humana.

Esto es especialmente valioso en investigaciones científicas, donde hay una única respuesta correcta en el ámbito matemático. Las IAG se distinguen de las calculadoras al realizar procesos de generalización, aprendizaje y comprensión, en lugar de limitarse a un conjunto predefinido de operaciones.