OpenAI anunció el martes la formación de un nuevo comité para supervisar las medidas de seguridad tomadas en los proyectos y operaciones de la compañía. El Comité de Seguridad está compuesto por miembros electos de la junta directiva y tiene la tarea de evaluar y desarrollar aún más los procesos y salvaguardas de la empresa de IA con sede en San Francisco. Este nuevo comité se formó cuando OpenAI comenzó a probar su próxima generación de modelos de inteligencia artificial (IA). En particular, la compañía compartió recientemente su Model Spec, que es un documento que destaca el enfoque de la compañía para construir modelos de IA responsables y éticos.
Comité de seguridad y protección de OpenAI
en un entrada en el blog, la empresa destacó los detalles del comité recién formado. La publicación dice: “Hoy, la Junta de OpenAI estableció un Comité de Seguridad dirigido por los directores Bret Taylor (presidente), Adam D’Angelo, Nicole Seligman y Sam Altman (CEO). Este comité será responsable de hacer recomendaciones a toda la Junta con respecto a las decisiones de seguridad que son críticas para los proyectos y operaciones de OpenAI”.
Además de los directores, también formarán parte del comité el director de preparación de OpenAI, Aleksander Madry, el director de seguridad, John Schulman, el director de seguridad Matt Knight y el director científico, Jakub Pachocki.
La primera tarea del comité será evaluar y desarrollar aún más los procesos y salvaguardas de IA de la empresa durante los próximos 90 días. Después de eso, el comité compartirá sus conclusiones y recomendaciones con toda la Junta. Las recomendaciones se someterán a una revisión de la Junta, después de lo cual OpenAI compartirá públicamente las recomendaciones adoptadas.
OpenAI comienza a probar modelos de IA de próxima generación
Este nuevo desarrollo en OpenAI está relacionado con la nueva iniciativa de la compañía. Han comenzado a probar la próxima generación de modelos de IA. La empresa lo llama modelo de IA “de frontera” y destaca que el modelo de lenguaje grande (LLM) actualmente en fase de prueba acercará a la empresa un paso más a la Inteligencia General Artificial (AGI).
AGI es un tipo de IA que puede comprender, aprender y aplicar conocimientos en una variedad de tareas del mundo real comparables a la inteligencia humana. Algunas definiciones de AGI también resaltan que AGI es capaz de funcionar de forma autónoma y puede desarrollar un cierto nivel de autoconciencia.
Para conocer las últimas noticias y reseñas sobre tecnología, permanezca atento a Gadgets 360 X, Facebook, Qué es, hilo Y noticias de Google. Para ver los últimos vídeos sobre dispositivos y tecnología, suscríbete a nosotros. Canal de Youtube. Si quieres saber todo sobre los principales influencers, sigue nuestra primicia Quien es360 en Instagram Y YouTube.
Apple, Google y Amazon Lobby Group se oponen a una propuesta antimonopolio similar a la de la UE en la India
