Chain of News Digest

Chain of News 16/07/2026

16/07/2026
**Top Story** La FDA ha aprobado el primer software como dispositivo médico con un modelo de lenguaje grande (LLM) orientado al paciente, lo que marca un hito importante para los desarrolladores de inteligencia artificial clínica. Esta decisión abre un camino para el desarrollo de dispositivos médicos impulsados por inteligencia artificial que pueden interactuar directamente con los pacientes. La aprobación es el resultado del creciente reconocimiento del potencial de la inteligencia artificial en la atención médica, y se espera que tenga un impacto importante en el desarrollo de dispositivos médicos basados en inteligencia artificial. Este desarrollo es importante porque destaca la creciente importancia de la inteligencia artificial en la atención médica y la necesidad de que los desarrolladores creen sistemas de inteligencia artificial que sean seguros, efectivos y transparentes. A medida que la inteligencia artificial sigue desempeñando un papel más importante en la atención médica, los desarrolladores deberán asegurarse de que sus sistemas cumplan con los más altos estándares de seguridad y eficacia, y esta aprobación es un paso importante en esa dirección. Las implicaciones de esta decisión son de gran alcance, y es probable que conduzca al desarrollo de más dispositivos médicos impulsados por inteligencia artificial que puedan mejorar los resultados de los pacientes. **AI Models & Research** La introducción de auditorías de fundamento intervencionista es un desarrollo importante en el campo de la investigación de inteligencia artificial. Esta prueba de nivel de paso, de caja negra, está diseñada para evaluar la solidez lógica del razonamiento en cadena de pensamiento de los modelos de lenguaje grande. Al utilizar la sustitución de predicados, esta prueba puede ayudar a los desarrolladores a identificar posibles fallos en los procesos de razonamiento de sus modelos. Otro desarrollo importante es la propuesta de LAPO, un método de supervisión de proceso auto-generado para la búsqueda de razonamiento de varias vueltas. Este método puede ayudar a distinguir entre interacciones intermedias útiles, redundantes y perjudiciales, lo cual es esencial para desarrollar sistemas de inteligencia artificial más efectivos. Además, el desarrollo de marcos de seguro nativos de inteligencia artificial para inteligencia artificial agente es un paso crucial hacia la creación de sistemas de inteligencia artificial más robustos y confiables. Este marco puede ayudar a subscribir y automatizar las pólizas de seguro para sistemas de inteligencia artificial autónomos, lo cual es esencial para su adopción generalizada. **Developer Tools & Frameworks** El lanzamiento del Manual de Harness es un desarrollo importante para los desarrolladores que trabajan con arneses de agente en evolución. Este manual proporciona una guía completa para hacer que los arneses sean legibles, navegables y editables, lo cual es esencial para desarrollar sistemas de inteligencia artificial más efectivos. Con este manual, los desarrolladores pueden crear arneses que sean más flexibles y adaptables, lo que puede ayudar a mejorar el rendimiento general de sus sistemas de inteligencia artificial. Otra versión notable es el desarrollo de gráficos de contexto compartido activo para la ciencia de equipo humano-inteligencia artificial. Este marco puede ayudar a facilitar una colaboración más efectiva entre humanos y sistemas de inteligencia artificial, lo cual es esencial para abordar problemas científicos complejos. Al utilizar este marco, los desarrolladores pueden crear sistemas de inteligencia artificial que sean más transparentes y explicables, lo que puede ayudar a generar confianza y mejorar el rendimiento general. **Industry & Business** La aprobación de la FDA del primer software como dispositivo médico con un LLM orientado al paciente es un desarrollo importante para la industria de la atención médica. Esta decisión se espera que tenga un impacto importante en el desarrollo de dispositivos médicos impulsados por inteligencia artificial, y es probable que conduzca a una mayor inversión en esta área. El desarrollo de marcos de seguro nativos de inteligencia artificial para inteligencia artificial agente también es un desarrollo importante para la industria del seguro. Este marco puede ayudar a subscribir y automatizar las pólizas de seguro para sistemas de inteligencia artificial autónomos, lo cual es esencial para su adopción generalizada. A medida que la inteligencia artificial sigue desempeñando un papel más importante en diversas industrias, el desarrollo de sistemas de inteligencia artificial más robustos y confiables será crucial para su éxito. **Worth Watching** El estudio sobre el consejo de inteligencia artificial que suprime la voluntad de las personas de decir "no sé" es un desarrollo fascinante que destaca los posibles riesgos de la dependencia excesiva de los sistemas de inteligencia artificial. Este estudio muestra que incluso cuando el consejo de inteligencia artificial es incorrecto, las personas pueden seguir siendo menos propensas a decir "no sé", lo que puede tener implicaciones importantes para la toma de decisiones y el pensamiento crítico. El desarrollo de extensiones probabilísticas de robots de inteligencia artificial neuro-simbólica es también un área de investigación interesante que tiene el potencial de superar las limitaciones de los sistemas puramente neuronales. Al combinar el aprendizaje neuronal y el razonamiento simbólico, estos robots pueden proporcionar procesos de toma de decisiones más transparentes y explicables, lo que puede ayudar a generar confianza y mejorar el rendimiento general. Además, la prueba de comportamiento de cambio de conjunto para agentes arnesados es una herramienta útil para evaluar la adaptabilidad de los sistemas de inteligencia artificial, lo cual es esencial para desarrollar sistemas de inteligencia artificial más efectivos y confiables.

Noticias del día

Contenidos del dia

ArXiv cs.AI

Auditorías de puesta a tierra intervencionistas: pruebas de dependencia de premisas de caja negra para la cadena de pensamiento de LLM mediante sustitución de predicados

Los grandes modelos lingüísticos producen un razonamiento en cadena de pensamiento (CoT) que parece lógicamente sólido pero que puede no depender genuinamente de sus premisas establecidas. Introducimos auditorías de base intervencionistas, una prueba de caja negra a nivel de pasos de dependencia de premisas: intervenimos en una única premisa sustituyendo su predicado objetivo por un símbolo nuevo, volvemos a ejecutar el modelo y comprobamos si la conclusión normalizada de cada paso de razonamiento (forma de predicado canónico) cambia.

16/07/2026
ArXiv cs.AI

Inteligencia en red: gráficos de contexto compartidos activos para la ciencia en equipos de IA humana

La mayoría de los sistemas de IA para la ciencia se centran en ampliar un único proceso de razonamiento a través de mejores modelos, ventanas de contexto más amplias, ejecución agencial a largo plazo o cocientíficos digitales que trabajan con un usuario principal. Sin embargo, los problemas científicos desafiantes rara vez se resuelven con un solo razonador. Son resueltos por equipos cuyos miembros aportan diferentes antecedentes, antecedentes experimentales, conocimientos tácitos e intuiciones entrenadas en el dominio.

16/07/2026
ArXiv cs.AI

LAPO: Atribución de salida de un turno para recompensas de procesos autogenerados en razonamiento de búsqueda de varios turnos

El aprendizaje por refuerzo para el razonamiento de búsqueda de múltiples turnos generalmente se basa en recompensas de resultados terminales, que no pueden distinguir interacciones intermedias útiles, redundantes y dañinas. Proponemos LAPO, un método de supervisión de procesos autogenerado basado en la atribución de salida de un turno hacia atrás. Para cada turno de búsqueda, LAPO reemplaza el turno y su observación de recuperación con un marcador de posición fijo [ELIMINAR] y mide el cambio resultante en la probabilidad logarítmica media de la respuesta de oro de la política actual.

16/07/2026
ArXiv cs.AI

Los consejos de IA suprimen la disposición de las personas a decir "No sé", incluso cuando el consejo es incorrecto y se incentiva la precisión.

Saber cuándo decir "No sé" es fundamental para el juicio humano, pero los asistentes de IA ofrecen una respuesta fluida a casi cualquier pregunta. En cinco experimentos (N = 3132; cuatro prerregistrados, una réplica directa), los participantes respondieron preguntas difíciles y siempre podían negarse a responder. Diseñamos las preguntas para que los consejos de la IA fueran incorrectos, separando el uso de la IA de su precisión.

16/07/2026
ArXiv cs.AI

Manual de arneses: hacer que los arneses de agentes en evolución sean legibles, navegables y editables

La capacidad de un agente de IA moderno depende no sólo de su modelo básico sino también de su arnés, que construye indicaciones, gestiona el estado, invoca herramientas y coordina la ejecución. A medida que evolucionan los modelos, las API, los entornos y los requisitos, el arnés debe modificarse continuamente. Antes de que se pueda realizar dicho cambio, un desarrollador o agente de codificación debe identificar todas las ubicaciones del código que implementan el comportamiento objetivo.

16/07/2026
ArXiv cs.AI

Seguros nativos de IA para IA agente: fijación de precios, suscripción y automatización de extremo a extremo

La IA agente introduce nuevos desafíos en materia de seguros porque los sistemas autónomos de IA pueden tomar decisiones, invocar herramientas, modificar entornos externos e interactuar con servicios de terceros. Este artículo desarrolla un marco matemático nativo de IA para la suscripción, fijación de precios y diseño de contratos para implementaciones de IA agente. Una implementación está representada por un estado de riesgo que captura el nivel de autonomía, la autoridad operativa, la exposición a los permisos, la madurez de la gobernanza y la concentración de dependencia.

16/07/2026
ArXiv cs.AI

Aprender el comportamiento seguro de los agentes a partir de preferencias y justificaciones humanas a través de modelos mundiales

Abordamos el problema de capacitar de manera segura una política de agente e implementar una política buena y segura, en entornos donde se desconoce la dinámica del entorno y no se dispone de una función de recompensa adecuada. En el contexto de entornos críticos para la seguridad, consideramos que el aprendizaje por refuerzo tradicional no es práctico y recurrimos al recurso del aporte humano. Presentamos DROPJ, un método centrado en el ser humano para entrenamiento y despliegue seguros.

16/07/2026
ArXiv cs.AI

Prueba de comportamiento de cambio de escenario para agentes dominados

¿Qué sucede con la elección de herramientas de un agente de LLM cuando la herramienta confiable cambia silenciosamente dentro de una sesión en curso? Tomamos prestado el cambio de escenarios de la psicología cognitiva para estudiar qué tan bien los agentes se adaptan a cambios ocultos en la confiabilidad. Nuestro punto de referencia monta bibliotecas de habilidades de herramientas con redundancias, donde muchas herramientas resuelven la misma tarea pero difieren en su confiabilidad oculta. En nuestro marco de evaluación, un cronograma ramificado desplaza el grupo de herramientas confiables hasta límites ocultos y combina cada turno con un control sin turnos.

16/07/2026
ArXiv cs.AI

Extensión probabilística de robots AGI neurosimbólicos basados ​​en el FOL intensional tipificado de Belnap

La IA neurosimbólica basada en $IFOL_B$ es una forma de combinar el aprendizaje neuronal y el razonamiento simbólico para superar las limitaciones de los sistemas puramente neuronales (como la falta de interpretabilidad y estructura lógica) con maquinaria lógica formal para la autorreferencia. En este artículo ampliamos el poder cognitivo de $IFOL_B$ utilizando el cálculo de probabilidad para las oraciones actualmente desconocidas, basado en la estructura de probabilidad de Nilsson para $IFOL_B$.

16/07/2026
GNews: LLM AI

Se abre un camino para los desarrolladores de IA clínica: la FDA aprueba el primer software como dispositivo médico con un LLM orientado al paciente - McGuireWoods

Se abre un camino para los desarrolladores de IA clínica: la FDA aprueba el primer software como dispositivo médico con un LLM orientado al paciente McGuireWoods

06/07/2026