Sam Altman, CEO de OpenAI, testifica en una audiencia “histórica” del Senado sobre la seguridad de la IA
Sam Altman, CEO de OpenAI y cofundador de Worldcoin, testificó recientemente ante el Congreso junto a la jefa de confianza de IBM, Christina Montgomery, y el profesor de la NYU, Gary Marcus.
La sesión de la subcomisión judicial del Senado representó la primera comparecencia oficial de Altman ante el Congreso, lo que dio a los senadores la oportunidad de interrogar al CEO de OpenAI acerca de las opiniones de su empresa sobre la regulación.
‘If this technology goes wrong, it can go quite wrong.’
OpenAI CEO Sam Altman admitted during a Senate hearing that his ‘worst fears’ are causing ‘significant harm to the world’ via developing tech. pic.twitter.com/RROe9DnR2U
— NowThis (@nowthisnews) May 16, 2023
‘Si esta tecnología sale mal, puede salir bastante mal’.
El consejero delegado de OpenAI, Sam Altman, admitió durante una comparecencia ante el Senado que sus “peores temores” son causar un “daño significativo al mundo” mediante el desarrollo de la tecnología.
La sesión, calificada de “histórica” por el senador de Illinois, Dick Durbin, se centró en la comprensión de las amenazas potenciales que plantean los modelos generativos de IA como ChatGPT y en la forma en que los legisladores deben abordar su regulación.
Los comentarios de Altman (que, según miembros del Congreso y su colega Gary Marcus, parecían sinceros y genuinos) parecieron coger por sorpresa a varios miembros del Senado.
Defendió la creación de una agencia federal de supervisión con autoridad para expedir y revocar licencias de desarrollo, declaró que creía que los creadores debían ser compensados cuando su trabajo se utilizara para entrenar un sistema de IA, y se mostró de acuerdo en que los consumidores que sufrieran daños utilizando productos de IA debían tener derecho a demandar al desarrollador.
Altman eludió las preguntas relacionadas con la reciente carta de “pausa de la IA”, que pedía una moratoria de seis meses en el despliegue de sistemas más potentes que GPT-4, el sistema de IA en el que se basa ChatGPT, afirmando que OpenAI había pasado más de seis meses evaluando GPT-4 antes de su lanzamiento. Afirmó que la empresa no tenía previsto desplegar otro modelo en los próximos seis meses.
Gary Marcus, uno de los firmantes de la carta de pausa, admitió que estaba más de acuerdo con el espíritu de la carta que con su contenido, pero instó al Congreso a considerar la supervisión global así como la regulación federal, un sentimiento con el que Altman estaba de acuerdo.
A lo largo de la audiencia, los tres oradores invitados coincidieron en la mayoría de los temas. Entre ellos, el apoyo a la protección de la privacidad, una mayor supervisión gubernamental, la auditoría por terceros y la prontitud con la que el gobierno estadounidense debería tratar de regular el sector (inmediatamente).
Senator Lindsey Graham asks the witnesses at the hearing on artificial intelligence regulation if there should be an agency to license and oversee AI tools.
All say yes, but IBM Chief Privacy & Trust Officer Christina Montgomery has stipulations: pic.twitter.com/UD7R8N7s23
— Yahoo Finance (@YahooFinance) May 16, 2023
El senador Lindsey Graham pregunta a los testigos de la audiencia sobre la regulación de la inteligencia artificial si debería existir una agencia que concediera licencias y supervisara las herramientas de IA.
Todos dicen que sí, pero Christina Montgomery, Directora de Privacidad y Confianza de IBM, pone condiciones:
Sin embargo, una de las únicas fuentes de discordia vino de Christina Montgomery, de IBM, que no estaba de acuerdo con la idea de que fuera necesaria una nueva agencia federal para hacer cumplir la normativa en la industria de la IA.
Sus declaraciones indican que IBM está a favor de un enfoque quirúrgico de la regulación, utilizando los organismos reguladores existentes para centrar la aplicación en casos de uso específicos.
Aunque los tres oradores coincidieron en que la IA puede ser perjudicial y requiere intervenciones de seguridad, Marcus dejó claro que cree que nadie entiende ni puede predecir actualmente lo perjudiciales que pueden ser o llegar a ser los productos de IA existentes. Abogó por un enfoque prudente que implique una mayor transparencia.
‘We have built machines that are like bulls in a china shop: powerful, reckless, and difficult to control.’
NYU Professor Gary Marcus sounded the alarm during a Senate hearing Tuesday on the emerging threats of AI. pic.twitter.com/d2b2kdJBWK
— NowThis (@nowthisnews) May 16, 2023
“Hemos construido máquinas que son como toros en una cacharrería: poderosas, temerarias y difíciles de controlar”.
Gary Marcus, catedrático de la Universidad de Nueva York, dio la voz de alarma durante una audiencia celebrada el martes en el Senado sobre las amenazas emergentes de la inteligencia artificial.
Los ponentes también coincidieron con miembros del Congreso en que Estados Unidos necesita una ley nacional de privacidad similar a las europeas. Altman, sin embargo, se mostró en desacuerdo con la idea de que los consumidores puedan optar por no incluir sus datos web de acceso público en los conjuntos de datos de entrenamiento.
Altman tampoco quiso dejar constancia de que OpenAI se opusiera a ofrecer una versión basada en publicidad de sus productos GPT. El CEO se limitó a afirmar que “no diría nunca”.
Y ello a pesar de haber afirmado anteriormente en la audiencia que los productos de OpenAI respetaban las normas de protección de la intimidad de los consumidores, pues la empresa no creaba perfiles de usuario con el fin de ofrecer anuncios personalizados.
Citando su experiencia como licenciado en Stanford y legislador que trabaja con empresas DeFi y Web3, el senador por Nueva Jersey, Corey Booker, sacó a colación el gran problema de la centralización en materia de privacidad. Preguntó cuáles serían las implicaciones de la centralización y la monopolización para la industria, una pregunta a la que Marcus respondió con la grave advertencia de que podríamos estar arriesgándonos a ceder el control de la percepción pública a un pequeño número de actores: las grandes empresas tecnológicas con dinero suficiente para competir con Microsoft, Google y Amazon.
Altman, cuyo proyecto Worldcoin combina un activo de criptomoneda descentralizado en la cadena de bloques Ethereum con la autenticación de identidad mediante tecnología de escaneado del iris, explicó que OpenAI se limitaba a proporcionar una plataforma, y que la democratización de los productos de OpenAI se produjo cuando desarrolladores, empresas y usuarios finales adaptaron la API GPT para usos “fantásticos”.
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión.
Las inversiones en criptoactivos no están reguladas. Es posible que no sean apropiados para inversores minoristas y que se pierda el monto total invertido. Los servicios o productos ofrecidos no están dirigidos ni son accesibles a inversores en España.
