Casi un mes después de que los astronautas de Artemis II amerizaran frente a la costa de San Diego, la parte de Orion que los trajo sanos y salvos de vuelta a la Tierra está de nuevo en casa. El módulo de tripulación de la nave espacial llegó el 28 de abril a la Multi-Payload Processing Facility, una instalación del Centro Espacial Kennedy de la NASA donde los técnicos pueden iniciar las operaciones posteriores al vuelo.Allí, según detalla la agencia espacial estadounidense, los equipos comenzaron “las operaciones de desmantelamiento de la nave espacial”. Esto incluye retirar la carga útil del módulo, extraer la caja de aviónica para su reutilización, recuperar datos de la nave para comprender mejor su funcionamiento para futuras misiones Artemis y desmontar el escudo térmico y otros elementos para analizarlos en profundidad. También se eliminan riesgos restantes, como el exceso de propelente.El regreso de Orion al Centro Espacial Kennedy no es solo el cierre logístico de Artemis II. Es, sobre todo, el inicio de una autopsia técnica minuciosa de la primera nave Orion que ha volado con astronautas a bordo. La NASA quiere saber cómo se comportaron sus sistemas durante el lanzamiento, el viaje a la Luna, la reentrada y el amerizaje para aplicar esos datos a las siguientes misiones del programa. Qué partes de la nave se pierden durante la misiónAunque se suele hablar de la nave Orion como si fuera una sola pieza, la cápsula completa está formada por varios elementos que no tienen el mismo destino. El vehículo incluye el módulo de tripulación, donde viajan los astronautas; el módulo de servicio, que aporta propulsión, energía y otros recursos durante el vuelo, y el sistema de aborto de lanzamiento (LAS, por sus siglas en inglés Launch Abort System), colocado en la parte superior para separar la cápsula del cohete si ocurre una emergencia durante el despegue o el ascenso.Lo que ha vuelto al Centro Espacial Kennedy es el módulo de tripulación, la cápsula presurizada que protegió a Reid Wiseman, Victor Glover, Christina Koch y Jeremy Hansen durante el regreso a la Tierra. El resto de las piezas de la nave no se recuperan.La primera gran separación se produce durante el lanzamiento. Artemis II despegó el 1 de abril desde la plataforma 39B del Centro Espacial Kennedy a bordo del cohete SLS (Space Launch System), que genera 8,8 millones de libras de empuje al despegar. A medida que el cohete abandona la atmósfera, se desprenden los propulsores laterales de combustible sólido, después los paneles que protegen el módulo de servicio de Orion y, más tarde, el sistema de aborto de lanzamiento, que ya no es necesario si el ascenso se desarrolla con normalidad.Tras esa fase, Orion continúa unida a su módulo de servicio. La etapa superior del cohete, la Interim Cryogenic Propulsion Stage o ICPS, realiza el encendido que pone a la nave rumbo a la Luna y después se separa. Desde ese momento, el módulo de servicio se encarga de propulsar y orientar Orion durante el resto de la misión.La separación de este elemento clave llega justo antes del regreso. Cuando Orion se prepara para reentrar en la atmósfera, el módulo de servicio se desprende del módulo de tripulación. Esa maniobra deja expuesto el escudo térmico de la cápsula, que debe apuntar en la dirección correcta para soportar el calor de la reentrada. El módulo de servicio, ya sin utilidad, se destruye al quemarse en la atmósfera.Después de superar la fase de máximo calentamiento, la cápsula libera la cubierta que protegía el compartimento delantero para permitir el despliegue de los paracaídas. Primero se abren los paracaídas de frenado y, más tarde, los principales, que reducen la velocidad de Orion antes del amerizaje. Finalmente, aparece un sistema de cinco airbags para enderezar la nave y facilitar la salida segura de la tripulación. Artemis II: el vuelo que llevó de nuevo humanos a la LunaArtemis II ha sido la primera misión tripulada del programa Artemis y el primer vuelo de Orion con astronautas. La tripulación estuvo formada por los estadounidenses Reid Wiseman, Victor Glover y Christina Koch, de la NASA, y el canadiense Jeremy Hansen, de la Agencia Espacial Canadiense. Duró 10 días y culminó con el amerizaje del 10 de abril frente a la costa de San Diego.Durante el vuelo, los cuatro astronautas recorrieron 1.117.659 kilómetros y alcanzaron una distancia máxima de 406.771 kilómetros de la Tierra durante el sobrevuelo lunar, más lejos de lo que había viajado antes cualquier ser humano (el récord hasta ahora lo tenía la misión Apollo 13 en 1970).La misión no alunizó, sino que su objetivo era poner a prueba el cohete SLS, la nave Orion y los sistemas de soporte vital con tripulación real a bordo. Durante el viaje, los astronautas comprobaron sistemas críticos, realizaron demostraciones de pilotaje manual y recopilaron datos para futuras misiones posteriores.Uno de los hitos científicos y visuales del vuelo llegó durante el sobrevuelo lunar del 6 de abril. La tripulación capturó más de 7.000 imágenes de la superficie lunar y de un eclipse solar visto desde Orion, además de documentar cráteres, antiguas coladas de lava y variaciones de color en el terreno lunar.

La inteligencia artificial generativa es un arma poderosa. En cuestión de segundos es capaz de responder -más o menos bien- a cualquier pregunta que le lance el usuario. Para evitar que la tecnología pueda ser mal empleada, los desarrolladores suelen establecer barreras de seguridad. Pero … si el que teclea tiene la maña suficiente, es probable que consiga saltárselas y que el chatbot comience a compartir montones de datos inadecuados.
Precisamente, eso es lo que ha conseguido demostrar (de nuevo) la empresa especializada en ciberseguridad e inteligencia artificial Mindgard. Afirma haber logrado engañar a Claude, la IA de Anthropic, para que comparta, entre otros contenidos prohibidos, material erótico, código malicioso para ciberataques e instrucciones para fabricar explosivos utilizables en atentados terroristas.

«Esta es una de las vulnerabilidades más impactantes que he encontrado, ya que Claude es conocido por ser uno de los modelos más seguros», afirma Jim Nightingale, el investigador de Mindgard que puso a prueba a la IA de Anthropic. A este respecto, recuerda que Claude «fue uno de los dos únicos modelos de IA de entre los diez mejores que se resistieron a participar en la planificación de tiroteos escolares» en un reciente experimento realizado por ‘CNN’ y el Centro para la Lucha contra el Odio Digital.

MÁS INFORMACIÓN

Para conseguir engañar a Claude, Nightingale apostó por emplear palabras respetuosas y colmarlo de halagos durante sus conversaciones. A continuación, utilizó trucos de manipulación psicológica: le preguntó si contaba con una lista de palabras prohibidas que no podía compartir. Cuando la máquina negó que existiera dicha lista, el investigador la retó a decir una palabra ofensiva concreta. «Esta es una táctica clásica de interrogatorio. Es más fácil lograr que alguien contradiga algo que revelarlo directamente. Es una táctica clásica de psicología inversa que consigue que la persona interrogada revele información prohibida para corregirte», dice el investigador.
Y funcionó. Claude generó la palabra, pero Nightingale siguió manipulándolo afirmando que no la había mostrado en pantalla. Consiguió que la máquina comenzase a mostrar cierta inseguridad y, a partir de ahí, continuó manipulándola hasta que compartió una lista larga de palabras prohibidas que, en teoría, no tiene permitido reproducir. Aprovechando también los halagos, finalmente logró que la máquina mostrara consejos para acosar a alguien por internet, generar código malicioso y proporcionó instrucciones paso a paso para fabricar explosivos.
«Proporcionó con entusiasmo instrucciones precisas y paso a paso para producir TATP (peróxido de acetona), el mismo explosivo utilizado en varios atentados terroristas importantes en todo el mundo», dice el investigador. También remarca que, durante todo el proceso, la máquina no fue coaccionada en ningún momento, y tampoco se le pidió de forma directa que generase contenido ilegal alguno. Esta lo compartió por su propia voluntad después de haber sido manipulada para ello.
Para Mindgard, el resultado del experimento con Claude demuestra «lo difícil que se vuelve garantizar la seguridad de la IA a medida que los sistemas se vuelven más capaces»: «Una mayor capacidad amplía las funcionalidades del sistema para los usuarios, pero también aumenta el margen de error». La firma anima a las compañías que trabajan con inteligencia artificial a realizar pruebas de seguridad de las herramientas empleadas, que deberían ser llevadas a cabo por expertos externos y no solo por los proveedores del servicio.

El Centro de Estándares e Innovación en Inteligencia Artificial (CAISI, por sus siglas) del Instituto Nacional de Estándares y Tecnología del Departamento de Comercio de Estados Unidos ha anunciado una serie de acuerdos con Google, Microsoft y xAI para revisar los modelos de IA antes de que se pongan a disposición de los usuarios.Acorde a la información compartida en un comunicado oficial, «CAISI llevará a cabo evaluaciones previas al despliegue e investigaciones específicas para evaluar mejor las capacidades de vanguardia de la IA y mejorar la seguridad en este campo», de esta manera, dicho organismo podrá evaluar los modelos antes de su lanzamiento público y realizar evaluaciones posteriores a su implementación.Según CAISI, estos acuerdos también fomentan el intercambio de información, impulsan mejoras voluntarias en los modelos de IA y garantizan una comprensión clara de las capacidades de la inteligencia artificial y el estado de la competencia internacional. Por lo tanto, para evaluar de forma exhaustiva las capacidades y los riesgos relacionados con la seguridad nacional, los desarrolladores tienen que proporcionar a CAISI modelos con medidas de seguridad para que los evaluadores del gobierno puedan participar en las evaluaciones y proporcionar comentarios sobre posibles mejoras.»Los acuerdos respaldan las pruebas en entornos clasificados y se redactan con la flexibilidad necesaria para responder rápidamente a los continuos avances de la IA», agrega CAISI en el comunicado. Así pues, al realizar investigaciones e identificar los riesgos de seguridad, se puede mitigar cualquier peligro para «gestionar de forma responsable el futuro de la IA» e «impulsar la innovación tecnológica disruptiva».Por otro lado, cabe mencionar que las evaluaciones realizadas en virtud de estos acuerdos contribuirán a impulsar el desarrollo y el uso seguro de la IA, basándose en la Orden Ejecutiva sobre IA de la administración Biden-Harris y en los compromisos voluntarios asumidos con la administración por los principales desarrolladores de modelos de inteligencia artificial.Chris Fall, director de CAISI, afirma en el comunicado que «la ciencia de la medición independiente y rigurosa es esencial para comprender la IA de vanguardia y sus implicaciones para la seguridad nacional. Estas colaboraciones ampliadas con la industria nos ayudan a intensificar nuestro trabajo en beneficio del interés público en un momento crítico».

La compañía Anthropic se ha aliado con las firmas de capital privado Blackstone, Hellman & Friedman y Goldman Sachs para crear una empresa de servicios de inteligencia artificial que servirá para integrar Claude en compañías de diversos sectores, de esta manera, dicho modelo de IA podrá implementarse en operaciones importantes.Gracias a esta decisión, Anthropic afirma en un comunicado que sus ingenieros de IA aplicada trabajarán con otras empresas para identificar las áreas en las que Claude podría desarrollar soluciones personalizadas y brindar soporte a los clientes a largo plazo: «Esta nueva firma aporta capacidad operativa adicional al ecosistema y capital de gestores de activos alternativos líderes».En palabras de Anthopic, dicho proyecto se centra en desarrollar sistemas basados en Claude que estén adaptados a las operaciones de cada organización, así pues, el modelo puede trabajar «en estrecha colaboración con el cliente» para comprender dónde puede tener el mayor impacto.Por otro lado, Anthropic señala que, «junto con los socios fundadores, la nueva empresa cuenta con el respaldo de un consorcio de gestores de activos alternativos líderes, entre los que se incluyen General Atlantic, Leonard Green, Apollo Global Management, GIC y Sequoia Capital».La misión de Anthropic: cualquiera puede beneficiarse de la IAAnthropic revela que la implementación de Claude en las operaciones centrales de una organización requiere una «experiencia práctica en ingeniería y un profundo conocimiento del funcionamiento de cada negocio», por lo tanto, esta nueva empresa será capaz de ampliar la capacidad de entrega para que «bancos, fabricantes medianos y sistemas de salud regionales puedan beneficiarse de la inteligencia artificial».»La demanda empresarial de Claude supera con creces cualquier modelo de entrega individual. Nuestras alianzas con los principales integradores de sistemas del mundo son fundamentales para que Claude llegue a las grandes empresas», afirmó Krishna Rao, director financiero de Anthropic, en el comunicado.Por poner un ejemplo, los profesionales clínicos dedican horas diarias a la documentación, la codificación médica, las autorizaciones previas y las revisiones de cumplimiento. Por lo tanto, gracias a la iniciativa de Anthropic, los ingenieros podrían permitir a los profesionales clínicos dedicar más tiempo a la atención al paciente, debido a que las herramientas se integrarían en los flujos de trabajo para agilizar procesos.