Investigadores de Google y Google DeepMind lanzaron el Instituto DeepMind el miércoles para avanzar en la conversación sobre la inteligencia artificial general (IAG). El instituto enumera a DeepMind co-fundador Shane Legg, el ejecutivo de Google James Manyika y el presidente de Google DeepMind Demis Hassabis como directores, con Legg como editor gerente.
El nuevo instituto tiene como objetivo destacar las diferentes opiniones entre Google, Google DeepMind y la comunidad de investigación global sobre la IAG. Como se lee en el anuncio, "No siempre estarán de acuerdo, y es probable que cambien de opinión, a medida que más datos e información salgan a la luz en la frontera en constante movimiento".
La colección inaugural de cuatro ensayos abarca una serie de temas: políticas económicas para gestionar la posible disruptión de la IAG, preservar la razón leída por humanos de los modelos, principios para el florecimiento humano y un marco para evaluar los modelos de inteligencia artificial de vanguardia. Un ensayo, de los investigadores de seguridad de DeepMind Rohin Shah y Anca Dragan, argumenta que la ventana de transparencia de la inteligencia artificial - la capacidad de ver y verificar el razonamiento paso a paso de un modelo - no es inevitable.
A medida que las nuevas arquitecturas hacen que los modelos más potentes sean más difíciles de monitorear, los autores dicen que los desarrolladores y los reguladores deben confrontar los compromisos de seguridad directamente. Eso podría significar limitar la "profundidad serial opaca" - la cantidad de computación secuencial que un modelo puede realizar sin producir un rastro de razonamiento legible - o requerir que los desarrolladores demuestren que los sistemas menos transparentes siguen siendo igual de monitoreables.
En otro ensayo, Hassabis propone un organismo de estándares de inteligencia artificial de vanguardia liderado por EE. UU. para evaluar los modelos de inteligencia artificial más avanzados. Bajo su marco, los desarrolladores presentarían inicialmente los modelos de forma voluntaria para su revisión hasta 30 días antes de su lanzamiento. Una vez que el sistema de evaluación haya demostrado ser efectivo, pasar sus pruebas podría convertirse en un requisito para implementar modelos de vanguardia en los Estados Unidos.
El organismo diseñaría inicialmente evaluaciones en consulta con las empresas de inteligencia artificial, pero eventualmente desarrollaría evaluaciones independientes y no divulgadas - lo que el ensayo llama "pruebas retenidas" - para evitar que los laboratorios adapten sus modelos a evaluaciones conocidas. Hassabis dijo que el marco podría "ser aumentado si la seriedad de la situación lo exige", posiblemente incluyendo un freno coordinado entre los desarrolladores de inteligencia artificial de vanguardia.
Los ensayos llegan en un momento en que el debate sobre la seguridad de la industria se desplaza desde declaraciones generales de preocupación hacia propuestas concretas para la divulgación, la supervisión externa y, si las salvaguardias se quedan atrás, frenos coordinados. Ese desplazamiento se aceleró esta semana cuando los líderes de la industria respaldaron elementos de la llamada del CEO de Anthropic Dario Amodei para "ritmar" el desarrollo de la inteligencia artificial de vanguardia.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.