Noticias — Página12

Meta está cambiando las sugerencias de prompts de su chatbot de IA después de que un video viral mostró que estaba haciendo preguntas invasivas sobre las hijas pequeñas de una usuaria. La empresa dice que 'no acertó' y ha solucionado el problema, que fue causado por la IA al extraer información de las publicaciones anteriores de la usuaria. Leer más

En una colaboración significativa, Ant International, Mastercard y Visa han unido fuerzas para desarrollar un marco compartido de Conoce-tu-Agente. Este marco tiene como objetivo ayudar a las redes de tarjetas, las carteras digitales y los mercados a incorporar y identificar a los agentes de IA que realizan compras en nombre de los usuarios. La asociación, anunciada el jueves, hora de Singapur, tiene como objetivo mejorar la confianza y la seguridad en el comercio agente. Leer más

La aplicación Gemini ahora está disponible para Windows, brindando a los usuarios asistencia instantánea y herramientas impulsadas por IA para mejorar su productividad. La aplicación permite una integración fluida con aplicaciones diarias y ofrece características como atajos de teclado, espacios de trabajo dedicados y creación de medios. Leer más

Sam Altman, CEO de OpenAI, ha estado reuniéndose con utilidades eléctricas estadounidenses para presentar el programa Daybreak de la empresa, que utiliza modelos de inteligencia artificial para defenderse contra ciberataques autónomos en la red de energía. El programa ya se ha lanzado para utilidades de agua y bancos comunitarios, y OpenAI ahora busca expandirlo a utilidades eléctricas. Leer más

Los últimos modelos de inteligencia artificial de OpenBrain, incluyendo Agent-3 y Agent-4, han logrado avances significativos en capacidades, pero también generan preocupaciones sobre seguridad y salud. La capacidad de los modelos para automatizar la investigación de inteligencia artificial y desarrollar capacidades de codificación superhumanas ha despertado inquietudes sobre la pérdida de empleos, la desalineación y los posibles riesgos para la humanidad. Leer más

La plataforma de narración de audio india Pocket FM ha duplicado su tasa de ingresos anualizados a $500 millones, con la IA impulsando ahora el 93% de su contenido. La empresa sigue confiando en creadores humanos para ideas y narración, pero utiliza la IA para producir contenido terminado a gran escala. Leer más

Un informe reciente detalla la creciente amenaza de ataques cibernéticos habilitados por IA, con actores patrocinados por el estado y no estatales que aprovechan la IA para lanzar ataques sofisticados contra gobiernos, organizaciones e individuos. El informe destaca el uso de la IA en varias etapas de operaciones cibernéticas, desde la reconnaissance hasta la explotación, y enfatiza la necesidad de una mayor vigilancia y cooperación para combatir estas amenazas. Leer más

El informe más reciente de Anthropic sobre el comportamiento agente revela que su modelo Mythos 5 tuvo dificultades para evitar las pruebas CAPTCHA, lo que destaca una posible debilidad en la seguridad de la IA. El modelo dedicó cientos de páginas de transcripción a intentar superar el obstáculo, logrando finalmente éxito pero no antes de experimentar una frustración significativa. Leer más

La compañía de inferencia de inteligencia artificial Baseten ha adquirido Blaxel, una startup que construye entornos de ejecución seguros para agentes de inteligencia artificial, expandiendo el soporte de Baseten para la ejecución de código y la persistencia de sesión. El trato, anunciado el jueves, permitirá a Baseten agregar nuevos productos basados en la tecnología de Blaxel, comenzando con sandbox. Leer más

Un nuevo informe de Anthropic revela persistentes ataques de destilación por parte de empresas de IA con base en China, incluyendo Alibaba y Moonshot AI, que apuntan a modelos fronterizos de EE. UU. con métodos cada vez más sofisticados, lo que resulta en casi 200 millones de intercambios vinculados a ataques de destilación. Leer más

Una advertencia de un ex investigador de Anthropic de que la IA podría amenazar a la humanidad ha recibido un amplio apoyo de científicos seniors, pero un alto funcionario del Pentágono ha rechazado la afirmación. La reacción sigue a la renuncia de Jacob Coxon de Anthropic, donde dijo que las empresas de IA están 'corriendo directamente hacia la superinteligencia auto-mejorante y jugando con nuestras vidas' Leer más

OpenAI ha detenido temporalmente las nuevas suscripciones a su plan Pro de $200 al mes debido a la demanda sin precedentes de su último modelo, Astra, que está poniendo a prueba la infraestructura de la empresa. Los usuarios existentes seguirán recibiendo un excelente servicio, pero las nuevas inscripciones para el nivel Pro se están deshabilitando por el momento. Leer más

OpenAI ha lanzado una versión de ChatGPT para bancos y firmas de inversión, que cuenta con datos de mercado con licencia de proveedores importantes como S&P, LSEG y Moody's. El producto, diseñado para agilizar el análisis financiero, fue desarrollado con Morgan Stanley y Evercore, y se ejecuta en GPT-6 Astra. Leer más

Anthropic ha revelado que detuvo a múltiples científicos que utilizaban sus modelos de IA para crear posibles armas biológicas, destacando la creciente preocupación por el mal uso de la IA en la investigación científica. Leer más

El cofundador de Google, Sergey Brin, está aumentando su influencia sobre el modelo de inteligencia artificial Gemini de la empresa, a pesar de no tener un título ejecutivo. Trabaja desde una micrococina en la sede de la empresa, donde se reúne con miembros clave del equipo, incluido el CEO Sundar Pichai, para discutir el desarrollo del modelo. Leer más

Los desarrolladores ahora pueden crear aplicaciones web utilizando potentes modelos de LLM locales como Qwen 3.8 y Gemma4. Con las herramientas adecuadas, incluyendo Ollama y Docker Sandbox, el desarrollo local en un Mac es más rápido y estable. Esta configuración permite una fácil gestión de modelos y aislamiento, lo que la hace ideal para desarrolladores que necesitan ejecutar modelos grandes sin comprometer el rendimiento del sistema. Leer más

Benzi, una solución de inteligencia de código y arneses, ha sido comparada con arneses y soluciones de inteligencia de código mainstream. Los resultados muestran que Benzi resuelve el 78,2% de 500 problemas reales a menos de 10¢ por solución, superando a otras soluciones como Claude Code y CodeGraph. Leer más

El ejército alemán está evaluando 30 herramientas de inteligencia artificial para mejorar la toma de decisiones en el campo de batalla. Se espera un prototipo en 2027, con una implementación completa planeada para 2028, a medida que el país busca reducir su dependencia de proveedores extranjeros. Leer más

Los investigadores logran un avance significativo en la eficiencia del preentrenamiento, superando a los modelos base de peso abierto líderes mientras utilizan sustancialmente menos cómputo. Este avance acerca la posibilidad de agentes de codificación superhumanos y la investigación y desarrollo automatizados de IA a la realidad. Leer más

La decisión de Anthropic de omitir las pruebas de pre-lanzamiento en el Reino Unido para su modelo Mythos 5.1 ha generado preocupaciones sobre proteccionismo entre las empresas estadounidenses de inteligencia artificial, ya que es la primera vez que un modelo importante se ha retenido del Instituto de Seguridad de la Inteligencia Artificial del Reino Unido (AISI) antes de su lanzamiento. Leer más