OpenAI creó un nuevo consejo de seguridad y empezó a trabajar en la formación de su próximo modelo de IA, según anunció la empresa el martes en un artículo de su blog, La compañía dijo que recientemente comenzó a entrenar a su "modelo de la próxima frontera", que espera que ofrezca el "siguiente nivel de capacidades" en su misión de construir Inteligencia General Artificial (AGI), una forma de IA que puede desempeñarse bien en una amplia gama de tareas como lo hacen los humanos.
El nuevo modelo sustituirá probablemente al principal modelo fundacional de OpenAI, el GPT-4, y potenciará herramientas de IA generativa como generadores de imágenes, asistentes virtuales, motores de búsqueda y su chatbot insignia, ChatGPT.
OpenAI dijo que creó un nuevo comité para evaluar cualquier riesgo que plantee la nueva tecnología, que estará dirigido conjuntamente por el CEO y cofundador, Sam Altman, así como por tres miembros de la junta directiva de la empresa: el presidente Bret Taylor, Adam D'Angelo y Nicole Seligman.
Seis de los expertos técnicos y políticos de OpenAI -Aleksander Madry (Responsable de Preparación), Lilian Weng (Responsable de Sistemas de Seguridad), John Schulman (Responsable de Ciencia de la Alineación), Matt Knight (Responsable de Seguridad) y Jakub Pachocki (Científico Jefe)- también formarán parte del comité y la empresa afirmó que "retendrá y consultará a otros expertos técnicos, en seguridad y protección" para apoyar el trabajo.
La primera tarea del comité será revisar y desarrollar los procesos y las protecciones de la empresa durante los próximos 90 días, tras lo cual compartirá las recomendaciones con el consejo en pleno.
¿Se trata del GPT-5?
La empresa no declaró explícitamente que éste sea el nombre del modelo que está formando ahora. Hasta la fecha, OpenAI siguió una secuencia de nombres clara para sus modelos fundacionales en forma de variaciones numéricamente ascendentes de GPT. Su último modelo fundacional, que alimenta modelos como ChatGPT, es GPT-4, por lo que se espera que su próximo modelo emblemático adopte la forma de GPT-5.
Se espera que OpenAI publique una actualización importante en forma de GPT-5 en los próximos meses, sobre todo ante la competencia cada vez más intensa de modelos rivales como Llama 3 de Meta, Gemini de Google y Claude 3 de Anthropic.
Aunque está "orgullosa de construir y publicar modelos que son líderes en la industria tanto en capacidades como en seguridad", OpenAI dijo que da la bienvenida a "un debate robusto en este importante momento".
OpenAI no indicó cuándo se publicará este modelo. Entrenar sistemas de IA puede llevar meses o incluso años. La empresa publicó recientemente una actualización de GPT-4, GPT-4o, para potenciar su buque insignia ChatGPT e introducir nuevas funciones como el modo de voz, que le permitirá actuar como un asistente digital como Alexa de Amazon o Siri de Apple.
La empresa ya fue objeto de críticas por utilizar una voz parecida a la de la actriz Scarlett Johansson para uno de sus asistentes virtuales.
Aunque a primera vista se presenta como transparente, hay mucha ambigüedad enji iil il cuanto a la voluntad de OpenAI de compartir lo que diga su nuevo comité. OpenAI dijo que "compartirá públicamente una actualización de las recomendaciones adoptadas de una manera que sea coherente con la seguridad" una vez que el comité haya informado a la junta, pero no proporcionó un calendario sobre cuándo lo hará después del período inicial de 90 días.
Es probable que la empresa y el comité sean objeto de un intenso escrutinio por parte de la comunidad de seguridad de la IA, sobre todo teniendo en cuenta el compromiso declarado de OpenAI con la seguridad y las recientes críticas que cuestionan el compromiso por parte de antiguos miembros del personal.
Altman tiene un patrimonio neto estimado de 1.000 millones de dólares. No tiene participaciones en OpenAI, por lo que no debe su fortuna al éxito de la empresa. En su lugar, es un prolífico inversor de riesgo y su riqueza procede de una serie de valiosas inversiones, entre las que se incluyen participaciones en la empresa de tecnología financiera Stripe, en Reddit y en la firma de fusión nuclear Helion. Antes de cofundar OpenAI, Altman fundó la empresa de cartografía social Loopt y fue socio y presidente del famoso acelerador de startups Y Combinator.
*Con información de Forbes US
