La IA ha logrado cosas asombrosas. De ser poco más que una curiosidad que escribía textos cortos y hacía artes encantadores, la tecnología ha logrado resolver problemas matemáticos que se creían imposibles, avanzar la investigación médica y revolucionar -no exagero al usar la palabra- los mundos académicos, corporativos y financieros. Los nombres que lideran su avance se han vuelto las nuevas estrellas de la cultura popular: Altman, Amodei, Musk, Huang...
¿Es posible que estemos confiando demasiado en su aparente infalibilidad?
Es la pregunta que plantea Helen Toner, directora ejecutiva del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown, quien ha expresado serias preocupaciones sobre la confianza depositada en los CEO de las empresas de inteligencia artificial. En una reciente entrevista con Nilay Patel, editor de The Verge, la ejecutiva, conocida por su papel en la comunidad de seguridad y política de IA, destacó su escepticismo hacia los líderes de la industria. 'Todavía no podemos confiar en los CEO', afirmó, subrayando la necesidad de un escrutinio más riguroso.
Toner formó parte de la junta directiva de OpenAI y, de hecho, fue uno de los cuatro votos a favor de separar de su cargo a Sam Altman. Su experiencia en una de las organizaciones más prominentes en el desarrollo de IA, le otorga una perspectiva única sobre los desafíos que enfrenta la industria.
Por qué importa
La advertencia de Toner resalta un problema persistente en la industria de la inteligencia artificial: la falta de mecanismos de control efectivos sobre los líderes empresariales.
En su charla con The Verge, apuntó: "Estas empresas, especialmente OpenAI y Anthropic, no fueron creadas para ser empresas masivas de internet. Mucha gente se topó con todo este espacio después del lanzamiento de ChatGPT, así que en su mente OpenAI o Anthropic son empresas de tecnología para el consumidor, que tienen una aplicación y yo juego con su aplicación. No puedo enfatizar lo suficiente lo lejos que está eso de la visión de ambas empresas cuando comenzaron, y también de la visión que está en lo más profundo de los corazones de sus líderes. Su visión es: vamos a construir máquinas tan inteligentes como los humanos, o incluso más. Eso será asombroso, un gran logro científico que revolucionará el mundo, y estaremos a la vanguardia de esa revolución y haremos todo lo posible para conseguirlo".
En un sector donde las decisiones pueden tener impactos globales, dice Toner, la confianza ciega en los CEOs podría resultar peligrosa. Esto es particularmente relevante en un momento en que la IA está siendo integrada en áreas críticas como la salud, la seguridad y la economía.
Poreso, agregó: "Creo que si depositamos nuestras esperanzas para el futuro en la confiabilidad de una sola persona, entonces estamos jodidos. Por eso hago el trabajo que hago, porque creo que necesitamos estructuras diferentes y que participe mucha más gente, con una mayor diversidad de perspectivas representadas".
A medida que el debate sobre la confianza en los líderes de IA cobra fuerza, es probable que veamos un aumento en las iniciativas para regular el sector. Las organizaciones internacionales y los gobiernos podrían intensificar sus esfuerzos para establecer marcos de regulación más estrictos. Toner sugiere que la comunidad debe trabajar junta para desarrollar estándares globales que aseguren el uso seguro y ético de la inteligencia artificial.
Por ahora, la posición oficial de Washington es la auto-regulación. Tras reunirse en privado con casi 20 magnates de la tecnología en un almuerzo en la Casa Blanca en septiembre, el presidente Donald Trump siguió oponiéndose a las peticiones de nuevas regulaciones de seguridad para la inteligencia artificial, afirmando que había consenso en la sala en que debería existir una "enorme autorregulación" por parte de las empresas.
Pero con el ascenso demócrata en el Congreso y la perspectiva de un gobierno después del de Trump, se espera que las empresas de IA enfrenten una mayor presión para demostrar su compromiso con la seguridad y la ética. Esto podría incluir desde auditorías independientes hasta la implementación de políticas de gobernanza más robustas. La conversación iniciada por Toner podría ser un catalizador para cambios significativos en la manera en que se supervisa a los líderes de la industria tecnológica.
Contexto
OpenAI, fundada en 2015, ha sido un actor clave en el desarrollo de inteligencia artificial avanzada. Con el respaldo de figuras prominentes como Elon Musk y Sam Altman, la organización ha liderado numerosos avances tecnológicos. Sin embargo, su enfoque en la seguridad de la IA ha sido objeto de debate, especialmente en relación con la transparencia y la supervisión de sus operaciones.
El Centro de Seguridad y Tecnología Emergente de Georgetown, dirigido por Toner, se dedica a investigar y promover políticas que mitiguen los riesgos asociados con tecnologías emergentes. La experiencia de Toner en este campo refuerza la importancia de considerar aspectos éticos y de seguridad en el desarrollo de IA. Su participación en la junta de OpenAI le proporcionó una visión interna de los desafíos que enfrentan las organizaciones en este sector.
Leer más: The Verge, Decoder NBC News