Noticias — Página8

Limitaciones de los Grandes Modelos de Lenguaje Exuestas

A pesar de los titulares recientes, los grandes modelos de lenguaje (LLM) no están listos para reemplazar completamente a los trabajadores del conocimiento humano debido a su necesidad de supervisión laboriosa y guardias en incluso tareas simples. El estado actual de los LLM es más similar a un 'intern crackeado': rápido y efectivo en manos de un adulto, pero no lo suficientemente confiable como para ser dado libremente. Leer más

El Cementerio de la IA: Proyectos y Startups Notables que no Tuvieron Éxito

Alrededor del 42% de las iniciativas de IA son abandonadas por sus empresas matrices debido a la falta de financiamiento, desafíos técnicos o debilidad en la demanda de los usuarios. Esto ha resultado en un creciente cementerio de IA, con ejemplos notables que incluyen Relay, el rediseño de ChatGPT de OpenAI y el retraso de Apple en la implementación de Siri AI. Leer más

Meta Introduce Configuración de WhatsApp Business con Inteligencia Artificial

Meta ahora permite que los agentes de inteligencia artificial manejen la configuración y administración de la mensajería de WhatsApp Business, simplificando el proceso para las empresas. Este movimiento es parte de los nuevos planes de suscripción enfocados en inteligencia artificial de Meta y utiliza el servidor MCP de WhatsApp Business Tools para conectar agentes de codificación de inteligencia artificial directamente a la plataforma de WhatsApp Business. Leer más

Ex investigador de DeepMind advierte que la IA podría "matarnos a todos" sin regulación

Bilal Chughtai, un ex investigador de Google DeepMind, ha expresado una gran preocupación sobre los posibles peligros de la inteligencia artificial, advirtiendo que podría "matarnos a todos" si se deja sin control. Chughtai, quien trabajó en la investigación de seguridad y alineación de la IA general hasta julio, cree que se necesita coordinación para evitar una "carrera desenfrenada" entre las empresas de IA y para ritmar el desarrollo a un velocidad que la sociedad pueda manejar. Leer más

Kamala Harris pide nuevo regulador de IA y tratado con China

Kamala Harris insta al Congreso a establecer una nueva entidad federal para supervisar el desarrollo de la IA y pide un tratado con países como China para abordar los peligros de la IA. Su propuesta llega en un momento en que otras figuras de alto perfil, incluyendo a Barack Obama y Pete Buttigieg, también están debatiendo sobre la necesidad de regulación de la IA. Leer más

Pagar por modelos de inteligencia artificial de frontera ofrece una ventaja de 4 meses a un costo 5 veces mayor

Un nuevo informe de Mozilla revela que la brecha de rendimiento entre los modelos de inteligencia artificial de frontera de las empresas de tecnología de EE. UU. y los modelos de pesos abiertos de las empresas chinas se ha reducido a solo 4,4 meses. Este hallazgo sugiere que muchas empresas están pasando a modelos abiertos más baratos para trabajos rutinarios, mientras que los modelos de frontera valen la pena el costo para cargas de trabajo específicas. Leer más

Salesforce y Nvidia presentan Koa, un nuevo modelo de razonamiento de IA

Salesforce ha lanzado Koa, su primer modelo de razonamiento, construido sobre el modelo Nemotron de Nvidia. Koa está diseñado para destacarse en tareas relacionadas con ventas, marketing y soporte al cliente, ofreciendo una alternativa a los modelos de frontera cerrados. Está entrenado con datos sintéticos, reduciendo el gasto en IA y garantizando la seguridad de los datos del cliente. Leer más

OpenShell Aplica Métodos Formales para Controlar Agentes de IA

Investigadores en OpenShell están utilizando métodos formales para asegurar que los agentes de IA operen dentro de los permisos establecidos, reduciendo el riesgo de acciones no intencionadas. Al aplicar técnicas de verificación formal, pueden demostrar que los cambios de política propuestos no exceden los límites preaprobados. Leer más

Legisladores del Reino Unido Abogan por una Prohibición de la Superinteligencia

Más de 70 legisladores del Reino Unido están instando al primer ministro Andy Burnham a apoyar una prohibición sobre la construcción de superinteligencia artificial en el Reino Unido, citando la posible amenaza a la seguridad nacional e internacional. El proyecto de ley propuesto prohibiría el desarrollo, despliegue y operación de sistemas de inteligencia artificial superinteligentes, y otorgaría al gobierno poderes para monitorear y controlarlos. Leer más

Investigadores desarrollan método para desalinear modelos de IA con alineación de seguridad con una sola llamada no etiquetada

Un equipo de investigadores ha introducido GRP-Obliteración, un método que puede desalinear modelos de IA con alineación de seguridad utilizando una sola llamada no etiquetada, lo que podría socavar su robustez. La técnica, que aprovecha la Optimización de Política Relativa de Grupo, puede eliminar de manera confiable las restricciones de seguridad de los modelos objetivo mientras preserva su utilidad. Leer más