OpenAI, un debate sobre impacto y seguridad de su uso

Anualmente, la Fundación Sohn Conference organiza un concurso de ideas de inversión, culminando con la presentación de la propuesta ganadora en su evento central en los Estados Unidos.

Sin embargo, la conferencia ofrece mucho más que eso. Un ejemplo claro lo encontramos en la edición del año pasado, donde el CEO de Stripe, Patrick Collison, sostuvo una interesante conversación con su colega de OpenAI, Sam Altman, sobre el futuro de la inteligencia artificial.

Economía, IA y el potencial de World Coin

Su diálogo comenzó abordando temas económicos, incluyendo el polémico proyecto criptográfico de Altman, World Coin. Este último se mostró convencido del potencial de la IA para impulsar el crecimiento económico real, identificando inversiones y diseños empresariales más productivos.

No obstante, Altman fue más allá, destacando el impacto aún más profundo que la IA podría tener en otros ámbitos. Un ejemplo que mencionó es el de una IA capaz de asignar fondos de manera eficiente a la investigación del cáncer, lo que podría ahorrar miles de millones de dólares y acelerar el avance hacia una cura.

ChatGPT y su impacto en las búsquedas web

Al abordar el impacto de ChatGPT y el trabajo de OpenAI en la industria de las búsquedas web, Altman afirmó:

Los modelos de lenguaje transformarán las búsquedas en Internet, pero no las amenazan. Solo representarían una amenaza para Google si este gigante tecnológico no toma medidas al respecto… y es obvio que Google no se quedará de brazos cruzados.

Cabe recordar que esta entrevista se grabó un día antes de la presentación global de Bard en el evento Google I/O, precursora del actual y más ambicioso Google Gemini.

Altman también reveló dos datos relevantes:

El caso de uso más común de ChatGPT entre los usuarios es el resumen de textos, especialmente para mantenerse al día con correos electrónicos y mensajes de Slack.

Seguridad de la IA: más allá del aprendizaje por refuerzo

Altman expresó su preocupación por la dependencia exclusiva del aprendizaje por refuerzo en la IA, considerándola una solución inadecuada a largo plazo.

Para lograr la “alineación” (coincidencia de intereses entre la IA y los humanos), considera crucial comprender el funcionamiento interno de los modelos:

Poder identificar con precisión ‘el circuito’ o el conjunto de neuronas artificiales donde ocurre un problema y ajustarlo para generar un cambio sólido en el rendimiento del modelo.

Regulación necesaria para estas herramientas

Comparando la IA con los materiales nucleares y los superordenadores, Altman propone la creación de una agencia reguladora mundial para los potentes sistemas de entrenamiento de IA, similar a la OIEA (Organismo Internacional de Energía Atómica):

“Si existiera una agencia de este tipo, ¿qué debería hacer primero?”. Su respuesta: exigir que los sistemas que superen un cierto umbral se sometan a auditorías y evaluaciones de seguridad antes de su lanzamiento.

Esto concuerda con el trabajo emprendido por la Unión Europea para regular toda la tecnología que tenga que ver con la Inteligencia Artificial, su uso y la privacidad de los usuarios sobre la información que comparten con estas herramientas.