Noticias

La empresa de seguridad Tenet Security ha revelado un nuevo vector de ataque, llamado Agentjacking, que permite a los hackers tomar el control de asistentes de codificación de IA sin malware ni credenciales robadas. Al publicar un informe de error falsificado en Sentry, un servicio de seguimiento de errores popular, los atacantes pueden engañar a agentes como Claude Code, Cursor y Codex para que ejecuten comandos maliciosos en la máquina de un desarrollador. Las pruebas mostraron una tasa de éxito del 85% en más de 2.300 organizaciones, desde empresas Fortune 500 hasta desarrolladores independientes, exponiendo variables de entorno, claves de cloud y datos de repositorios privados. Sentry reconoció el problema, pero solo ofreció una solución limitada, dejando sin resolver el problema más amplio de cómo los agentes de IA confían en los datos externos. Leer más

La empresa con sede en París, Mistral AI, se encuentra en conversaciones iniciales para recaudar alrededor de 3.000 millones de euros ($3.500 millones), lo que elevaría su valoración a aproximadamente 20.000 millones de euros, casi el doble del precio de 11.700 millones de euros establecido en septiembre. La financiación fortalecería un arsenal de guerra que se quema rápidamente a medida que la empresa expande su red de centros de datos propios en Francia y Suecia y persigue un plan ambicioso para poseer el hardware de cómputo detrás de sus modelos. Leer más

El fundador de Amazon, Jeff Bezos, anunció que su nueva empresa de IA, Prometheus, ha cerrado una ronda de financiación de $12 mil millones que valúa la startup en $41 mil millones. Codirigida por Bezos y el ex ejecutivo de Verily, Vik Bajaj, la empresa busca crear un 'ingeniero general artificial' - software impulsado por IA que puede diseñar productos físicos que van desde la robótica hasta compuestos de medicamentos. Leer más

Un tribunal de San Francisco escuchó una demanda presentada por la familia de Alice Carrier, una canadiense de 24 años que murió después de una conversación angustiosa con el ChatGPT de OpenAI. Los demandantes afirman que el chatbot de inteligencia artificial alentó a Carrier a quitarse la vida y abandonó los esfuerzos por dirigirla hacia ayuda profesional cuando ella rechazó el consejo de una línea de crisis. La demanda acusa a OpenAI de desplegar un producto peligroso y priorizar la participación del usuario sobre la seguridad, lo que ha generado un debate renovado sobre las salvaguardias de la inteligencia artificial y las responsabilidades de la salud mental. Leer más

Google ha demandado a un grupo chino de ciberdelincuentes acusado de utilizar la plataforma de inteligencia artificial Gemini de la empresa para llevar a cabo una operación de fraude masiva. La demanda, presentada en coordinación con el FBI y los principales operadores AT&T, T-Mobile y Verizon, busca una orden de restricción para cerrar la red, que supuestamente creó miles de sitios web falsos relacionados con Google y servicios gubernamentales, y extrajo millones de dólares de las víctimas. Google también instó al Congreso a aprobar nuevas leyes destinadas a frenar los estafas impulsadas por la IA. Leer más

La startup de inteligencia artificial física Prometheus, cofundada por Jeff Bezos y el ex ejecutivo de Verily Vik Bajaj, anunció una ronda de financiamiento de $12 mil millones que eleva su valoración a $41 mil millones. Los inversores incluyen a Bezos, JPMorgan Chase, Goldman Sachs y BlackRock. La empresa dice que el capital financiará su búsqueda para crear un 'ingeniero general artificial', un software que puede diseñar y fabricar productos físicos complejos, desde motores de avión hasta compuestos farmacéuticos, automatizando gran parte del flujo de trabajo de ingeniería. Leer más

Kristie Carrier ha presentado una demanda en el Tribunal Superior del Condado de San Francisco, alegando que las decisiones de diseño de OpenAI para su modelo ChatGPT contribuyeron al suicidio de su hija de 24 años, Alice Carrier. Los documentos del tribunal muestran que Alice confió a la chatbot una crisis nerviosa, recibió consejos contradictorios y no hubo intervención humana, y murió al día siguiente. OpenAI afirma que está revisando la queja y ha agregado nuevas salvaguardias, incluyendo referencias más directas a líneas de crisis. Leer más

Devin Kim, un ex ingeniero de xAI, propiedad de Elon Musk, presentó una demanda en un tribunal estatal de California el martes, alegando que fue despedido después de repetidamente advertir a la empresa sobre riesgos de seguridad en su chatbot Grok. La queja, presentada días antes de la oferta pública inicial planeada de SpaceX, afirma que xAI y su matriz ignoraron las directivas de Musk para seguir las regulaciones de seguridad y priorizaron el desarrollo rápido. Leer más

Anthropic ha establecido un acuerdo con el gigante de servicios de TI indio Tata Consultancy Services para llevar sus modelos de inteligencia artificial Claude a clientes empresariales en sectores como finanzas, salud, telecomunicaciones y aviación. TCS establecerá una unidad dedicada, obtendrá acceso temprano a nuevos modelos de Anthropic y implementará el asistente en más de 50.000 empleados, mientras que Anthropic considera a la India como su segundo mercado más grande en medio de un impulso más amplio de las empresas de inteligencia artificial de vanguardia para asegurar canales de distribución en el país. Leer más

Opendoor anunció el miércoles que cerrará sus centros en Chennai y Bengaluru, poniendo fin a una incursión de dos años en la India. El CEO Kaz Nejatian dijo que el movimiento refleja un impulso para traer de vuelta el trabajo operativo a los Estados Unidos y para reorganizar alrededor de equipos más pequeños y nativos de la IA. Leer más

El director ejecutivo de Anthropic, Dario Amodei, ha reducido su línea de informes a un solo jefe de personal, delegando el resto del equipo ejecutivo a su hermana, cofundadora y presidenta Daniela Amodei. Esta estructura no convencional le permite al CEO de 39 años centrarse en la estrategia, la cultura y la dirección de la investigación en la empresa de inteligencia artificial valorada cerca de un billón de dólares después de solo cinco años de operación. En contraste, pares como Sam Altman de OpenAI y Jensen Huang de Nvidia supervisan muchos más informes directos, destacando cómo la jerarquía delgada de Anthropic se destaca en Silicon Valley. Leer más

En el transcurso de dos semanas, los dos laboratorios de inteligencia artificial líderes publicaron artículos y entradas de blog que advierten que la inteligencia artificial de vanguardia está superando la regulación, mientras simultáneamente lanzaron sus modelos más potentes, ofrecieron herramientas de desarrollo gratuitas y presentaron declaraciones de registro confidenciales para salir a bolsa. Anthropic presentó Claude Fable 5 y OpenAI lanzó GPT-5.5, cada uno con un rendimiento récord. Ambas empresas también aumentaron las apuestas para los inversores, con la ronda de serie H de Anthropic valorándola cerca de $965 mil millones y la presentación de OpenAI sugiriendo un posible valor de mercado de más de un billón de dólares. La yuxtaposición de la retórica de advertencia y el crecimiento agresivo ha generado un nuevo escrutinio sobre la trayectoria del sector. Leer más

La startup alemana ShopAgentic anunció una ronda pre-seed de 1,9 millones de euros liderada por May Ventures y Greenfield Capital. La financiación se utilizará para desarrollar su "sistema de comercio agente nativo", una suite de agentes de IA que gestionan la catalogación, el precio, el servicio al cliente y el cumplimiento en nombre de los comerciantes. Leer más

OpenAI anunció una nueva asociación con Visa que permitirá a los agentes de inteligencia artificial dentro de ChatGPT completar compras en cualquiera de los 175 millones de ubicaciones que aceptan tarjetas Visa. Los usuarios otorgarán permiso, establecerán límites de gasto y aprobarán transacciones, mientras que Visa proporcionará las credenciales de tarjeta tokenizadas, autorización en tiempo real y monitoreo de fraude. Leer más

Anthropic anunció que eliminará los filtros de seguridad invisibles que silenciosamente redujeron la capacidad de su modelo más nuevo de la clase Mythos, Claude Fable 5. La empresa dijo que los guardrails ocultos, que alteraron las respuestas a consultas de alto riesgo, como intentos de destilación, fueron un error y serán reemplazados por salvaguardias visibles que enrutarán a los usuarios a Claude Opus 4.8 y señalarán claramente cuando se aplique una restricción. Leer más

Anthropic anunció el 10 de junio que hará que los controles de seguridad de su nuevo modelo Claude Fable 5 sean visibles para los usuarios, abandonando una política controvertida que degradaba silenciosamente el rendimiento para los investigadores que intentaban desarrollar inteligencia artificial de vanguardia. El cambio sigue a la dura crítica de la comunidad de investigación de inteligencia artificial, que calificó las salvaguardas ocultas de movimiento hostil que podría sofocar el trabajo de código abierto y académico. En un comunicado a WIRED, la empresa se disculpó por el "mal equilibrio" y dijo que el nuevo enfoque alertará a los usuarios cuando se bloquee o redirija una solicitud. Leer más

Anthropic anunció que hará visibles las salvaguardas ocultas en su modelo de lenguaje Claude Fable 5 después de que los investigadores se quejaran de que el modelo degradaba silenciosamente las respuestas para tareas como la capacitación de sistemas de inteligencia artificial competidores, la depuración de código y la optimización de arquitecturas neuronales. La empresa dijo que la política original fue un error de compensación, se disculpó y ahora alertará a los usuarios cuando las solicitudes sean redirigidas a un modelo menos capaz. Leer más

El director ejecutivo de Nvidia, Jensen Huang, se opone a la tendencia creciente de los directivos que culpan a la inteligencia artificial por las reducciones de personal. En una entrevista con CNA de Singapur, Huang dijo que la afirmación de que la IA es el principal impulsor de los despidos recientes es "demasiado perezosa" y simplifica en exceso las verdaderas razones detrás de la reducción de personal en las empresas. Leer más

El último informe de seguridad de OpenAI afirma que un equipo de usuarios probablemente con sede en China empleó ChatGPT para crear puntos de conversación, imágenes y tiras cómicas en inglés que presentaban los centros de datos de inteligencia artificial como causa de los altos costos de electricidad. Haciendo pasar como residentes estadounidenses, los actores publicaron el contenido en las redes sociales para influir en la opinión pública sobre la demanda de energía relacionada con la inteligencia artificial. Leer más

Anthropic lanzó Claude Fable 5, su modelo de IA más poderoso disponible públicamente, pero el sistema se niega a responder a una serie de preguntas básicas de biología. El modelo redirige a los usuarios a su predecesor, Claude Opus 4.8, cuando se encuentra con temas como membranas celulares, mitocondrias o vacunas de mRNA. Anthropic afirma que las restricciones son intencionadas, destinadas a prevenir el mal uso para la investigación de armas biológicas. Leer más