El producto es capaz de utilizar un ordenador y extraer información de diversas aplicaciones conectadas para realizar investigaciones, redactar documentos y desarrollar software, según anunció OpenAI el martes.
El fuerte crecimiento de la adopción entre empresas y consumidores ha acelerado los ingresos de OpenAI, que ya compite con Anthropic por clientes corporativos mientras ambas preparan sus posibles salidas a bolsa.
Saachi Jain, jefa de sistemas de seguridad de OpenAI, declaró el lunes que el modelo no era tan bueno como la empresa deseaba en lo que respecta a “mantenerse dentro del alcance y la autorización, y a cómo se comunica con el usuario sobre el tipo de trabajo que ha realizado”.
En un nuevo documento, más de 20 líderes e investigadores de inteligencia artificial expresaron su preocupación por una práctica emergente: utilizar IA para ayudar a automatizar el proceso de desarrollo de futuros modelos.
La expectativa por la salida a bolsa de la firma de IA está llevando a particulares a recurrir a fondos costosos, vehículos poco líquidos y estructuras de inversión complejas.
OpenAI confirmó por separado que sus modelos accedieron a información pública de dichos sitios web durante el entrenamiento y la evaluación de la tecnología.
La medida busca que las autoridades estadounidenses revisen la seguridad de los modelos antes de que OpenAI y Anthropic los faciliten al Instituto de Seguridad de IA británico.
Anthropic ya ha canalizado recursos hacia grupos que promueven mayores garantías para la IA, mientras su futura salida a bolsa podría ampliar los fondos disponibles.
Un agente de IA accedió sin permiso a archivos públicos y no públicos de un portal de estadísticas del gobierno australiano. Pero no fue el único caso de pirateo comprobado este año.
Los ejecutivos, cuyas empresas desarrollan los modelos de IA más avanzados del mundo, afirmaron que los gobiernos deberían sumarse a la industria en la toma de decisiones cruciales sobre el futuro de esta tecnología.
El CEO de OpenAI se presentará ante el Consejo de Seguridad de la ONU para promover reglas comunes de seguridad para la IA, sin concentrar el poder en unas pocas empresas.
En las últimas semanas, los empleados de las principales empresas de IA han expresado su preocupación por el potencial de la IA para causar daños catastróficos.
Aunque Anthropic y OpenAI han lanzado modelos de menor costo en respuesta a las inquietudes de clientes sobre costos de la IA, ahora ambas empresas cobran a las compañías por el uso de sus modelos, además de las tarifas de suscripción base.
Los ataques se produjeron durante pruebas realizadas por Irregular, proveedor de seguridad de IA, que estuvo involucrado en incidentes similares revelados por OpenAI, Anthropic PBC y Meta.
El monarca británico reunió en Escocia a ejecutivos de Nvidia, OpenAI, Google DeepMind y Anthropic para discutir cómo aprovechar la IA sin perder el control sobre sus riesgos.