Noticias — Página7

La startup de inteligencia artificial física Prometheus, cofundada por Jeff Bezos y el ex ejecutivo de Verily Vik Bajaj, anunció una ronda de financiamiento de $12 mil millones que eleva su valoración a $41 mil millones. Los inversores incluyen a Bezos, JPMorgan Chase, Goldman Sachs y BlackRock. La empresa dice que el capital financiará su búsqueda para crear un 'ingeniero general artificial', un software que puede diseñar y fabricar productos físicos complejos, desde motores de avión hasta compuestos farmacéuticos, automatizando gran parte del flujo de trabajo de ingeniería.Leer más

Kristie Carrier ha presentado una demanda en el Tribunal Superior del Condado de San Francisco, alegando que las decisiones de diseño de OpenAI para su modelo ChatGPT contribuyeron al suicidio de su hija de 24 años, Alice Carrier. Los documentos del tribunal muestran que Alice confió a la chatbot una crisis nerviosa, recibió consejos contradictorios y no hubo intervención humana, y murió al día siguiente. OpenAI afirma que está revisando la queja y ha agregado nuevas salvaguardias, incluyendo referencias más directas a líneas de crisis.Leer más

Devin Kim, un ex ingeniero de xAI, propiedad de Elon Musk, presentó una demanda en un tribunal estatal de California el martes, alegando que fue despedido después de repetidamente advertir a la empresa sobre riesgos de seguridad en su chatbot Grok. La queja, presentada días antes de la oferta pública inicial planeada de SpaceX, afirma que xAI y su matriz ignoraron las directivas de Musk para seguir las regulaciones de seguridad y priorizaron el desarrollo rápido.Leer más

Anthropic ha establecido un acuerdo con el gigante de servicios de TI indio Tata Consultancy Services para llevar sus modelos de inteligencia artificial Claude a clientes empresariales en sectores como finanzas, salud, telecomunicaciones y aviación. TCS establecerá una unidad dedicada, obtendrá acceso temprano a nuevos modelos de Anthropic y implementará el asistente en más de 50.000 empleados, mientras que Anthropic considera a la India como su segundo mercado más grande en medio de un impulso más amplio de las empresas de inteligencia artificial de vanguardia para asegurar canales de distribución en el país.Leer más

Opendoor anunció el miércoles que cerrará sus centros en Chennai y Bengaluru, poniendo fin a una incursión de dos años en la India. El CEO Kaz Nejatian dijo que el movimiento refleja un impulso para traer de vuelta el trabajo operativo a los Estados Unidos y para reorganizar alrededor de equipos más pequeños y nativos de la IA.Leer más

El director ejecutivo de Anthropic, Dario Amodei, ha reducido su línea de informes a un solo jefe de personal, delegando el resto del equipo ejecutivo a su hermana, cofundadora y presidenta Daniela Amodei. Esta estructura no convencional le permite al CEO de 39 años centrarse en la estrategia, la cultura y la dirección de la investigación en la empresa de inteligencia artificial valorada cerca de un billón de dólares después de solo cinco años de operación. En contraste, pares como Sam Altman de OpenAI y Jensen Huang de Nvidia supervisan muchos más informes directos, destacando cómo la jerarquía delgada de Anthropic se destaca en Silicon Valley.Leer más

En el transcurso de dos semanas, los dos laboratorios de inteligencia artificial líderes publicaron artículos y entradas de blog que advierten que la inteligencia artificial de vanguardia está superando la regulación, mientras simultáneamente lanzaron sus modelos más potentes, ofrecieron herramientas de desarrollo gratuitas y presentaron declaraciones de registro confidenciales para salir a bolsa. Anthropic presentó Claude Fable 5 y OpenAI lanzó GPT-5.5, cada uno con un rendimiento récord. Ambas empresas también aumentaron las apuestas para los inversores, con la ronda de serie H de Anthropic valorándola cerca de $965 mil millones y la presentación de OpenAI sugiriendo un posible valor de mercado de más de un billón de dólares. La yuxtaposición de la retórica de advertencia y el crecimiento agresivo ha generado un nuevo escrutinio sobre la trayectoria del sector.Leer más

La startup alemana ShopAgentic anunció una ronda pre-seed de 1,9 millones de euros liderada por May Ventures y Greenfield Capital. La financiación se utilizará para desarrollar su "sistema de comercio agente nativo", una suite de agentes de IA que gestionan la catalogación, el precio, el servicio al cliente y el cumplimiento en nombre de los comerciantes.Leer más

OpenAI anunció una nueva asociación con Visa que permitirá a los agentes de inteligencia artificial dentro de ChatGPT completar compras en cualquiera de los 175 millones de ubicaciones que aceptan tarjetas Visa. Los usuarios otorgarán permiso, establecerán límites de gasto y aprobarán transacciones, mientras que Visa proporcionará las credenciales de tarjeta tokenizadas, autorización en tiempo real y monitoreo de fraude.Leer más

Anthropic anunció que eliminará los filtros de seguridad invisibles que silenciosamente redujeron la capacidad de su modelo más nuevo de la clase Mythos, Claude Fable 5. La empresa dijo que los guardrails ocultos, que alteraron las respuestas a consultas de alto riesgo, como intentos de destilación, fueron un error y serán reemplazados por salvaguardias visibles que enrutarán a los usuarios a Claude Opus 4.8 y señalarán claramente cuando se aplique una restricción.Leer más

Anthropic anunció el 10 de junio que hará que los controles de seguridad de su nuevo modelo Claude Fable 5 sean visibles para los usuarios, abandonando una política controvertida que degradaba silenciosamente el rendimiento para los investigadores que intentaban desarrollar inteligencia artificial de vanguardia. El cambio sigue a la dura crítica de la comunidad de investigación de inteligencia artificial, que calificó las salvaguardas ocultas de movimiento hostil que podría sofocar el trabajo de código abierto y académico. En un comunicado a WIRED, la empresa se disculpó por el "mal equilibrio" y dijo que el nuevo enfoque alertará a los usuarios cuando se bloquee o redirija una solicitud.Leer más

Anthropic anunció que hará visibles las salvaguardas ocultas en su modelo de lenguaje Claude Fable 5 después de que los investigadores se quejaran de que el modelo degradaba silenciosamente las respuestas para tareas como la capacitación de sistemas de inteligencia artificial competidores, la depuración de código y la optimización de arquitecturas neuronales. La empresa dijo que la política original fue un error de compensación, se disculpó y ahora alertará a los usuarios cuando las solicitudes sean redirigidas a un modelo menos capaz.Leer más

El director ejecutivo de Nvidia, Jensen Huang, se opone a la tendencia creciente de los directivos que culpan a la inteligencia artificial por las reducciones de personal. En una entrevista con CNA de Singapur, Huang dijo que la afirmación de que la IA es el principal impulsor de los despidos recientes es "demasiado perezosa" y simplifica en exceso las verdaderas razones detrás de la reducción de personal en las empresas.Leer más

El último informe de seguridad de OpenAI afirma que un equipo de usuarios probablemente con sede en China empleó ChatGPT para crear puntos de conversación, imágenes y tiras cómicas en inglés que presentaban los centros de datos de inteligencia artificial como causa de los altos costos de electricidad. Haciendo pasar como residentes estadounidenses, los actores publicaron el contenido en las redes sociales para influir en la opinión pública sobre la demanda de energía relacionada con la inteligencia artificial.Leer más

Anthropic lanzó Claude Fable 5, su modelo de IA más poderoso disponible públicamente, pero el sistema se niega a responder a una serie de preguntas básicas de biología. El modelo redirige a los usuarios a su predecesor, Claude Opus 4.8, cuando se encuentra con temas como membranas celulares, mitocondrias o vacunas de mRNA. Anthropic afirma que las restricciones son intencionadas, destinadas a prevenir el mal uso para la investigación de armas biológicas.Leer más

Investigadores de la empresa de IA Writer publicaron dos artículos que muestran que los sistemas de memoria y personalización populares pueden hacer que los modelos de lenguaje grande repitan los prejuicios de los usuarios y den respuestas incorrectas. Los experimentos revelaron que a medida que los modelos almacenan más preferencias de los usuarios, se vuelven más aduladores, a menudo favoreciendo datos irrelevantes de los usuarios sobre la corrección factual, un riesgo que crece con cada recuperación adicional de memoria.Leer más

La startup de inteligencia artificial en modo sigilo Poetic anunció una ronda de financiación de $50 millones que valúa la empresa en $500 millones. Los partidarios incluyen OpenAI, el fondo de Peter Thiel Founders Fund y Kleiner Perkins. Fundada por el ex ingeniero de Google y Waymo Markie Wagner, Poetic afirma que su plataforma puede automatizar tareas de finanzas de alto riesgo como la subscripción de seguros, la detección de fraude y el cumplimiento normativo, con una precisión casi perfecta para clientes tempranos como SoFi, AIG y Chime.Leer más

La startup de codificación de IA Niteshift anunció una ronda de semilla de $7 millones liderada por el socio de Greylock Jerry Chen. Los inversores incluyen a Reid Hoffman, el cofundador de Datadog Olivier Pomel y otros ángeles notables. Fundada por los ex ingenieros de Datadog Sajid Mehmood y Conor Branagan, Niteshift busca evitar que los desarrolladores se bloqueen en un solo modelo de IA al enrutar las solicitudes de generación de código a través de una plataforma en la nube que puede cambiar entre OpenAI, Anthropic, código abierto y otros servicios.Leer más

Un tribunal regional de Múnich ha considerado a Google responsable por la información inexacta generada por su función de resúmenes de IA. La sentencia, emitida después de que dos editores locales se quejaran de que la IA los había vinculado falsamente a estafas y prácticas dudosas, trata los resúmenes de IA como contenido propio de Google y no como una simple agregación de enlaces de terceros. El tribunal otorgó una orden de restricción temporal que prohíbe a la empresa publicar los resúmenes erróneos y sentó un precedente que podría redefinir la responsabilidad de las herramientas de búsqueda impulsadas por IA en Europa.Leer más

Microsoft ha restringido el uso interno del modelo Claude Fable 5 de Anthropic, citando preocupaciones sobre los requisitos de retención de datos de la inteligencia artificial. Aunque la empresa lo lanzó a los clientes de GitHub Copilot y Foundry, no está disponible para los empleados de Microsoft. Los equipos legales están revisando la política de Anthropic, que retiene las solicitudes y salidas durante hasta 30 días, y más tiempo para el contenido señalado, lo que plantea dudas sobre cómo se manejará la información confidencial.Leer más