Tecnología - Colombia
Registro  /  Login

Portal de Negocios en Colombia

TECNOLOGÍA

Los expertos alertan sobre el nuevo ChatGPT Salud: «Sus datos sanitarios podrían hacerse públicos»

ChatGPT tiene una respuesta para casi cualquier pregunta. Da lo mismo que se le pida ayuda para organizar la agenda o para rastrear información sobre cualquier tema de actualidad que se le ocurra. Y si el usuario le solicita que le explique los resultados … de su último análisis clínico, o que le diga cuáles pueden ser las causas de un malestar concreto, lo mismo. Ahora OpenAI, la empresa detrás de la máquina de inteligencia artificial generativa, ha anunciado el lanzamiento de un nuevo modo de uso, incluido dentro de ChatGPT, llamado Salud. Su objetivo: «interpretar los resultados recientes de sus pruebas, prepararle para sus citas médicas, recibir recomendaciones sobre dieta y ejercicio, o comprender las ventajas y desventajas de distintas opciones de seguro según sus hábitos de atención médica».
Por el momento, la novedad solo está disponible para un reducido grupo de usuarios de Estados Unidos. La herramienta, además, es capaz de cruzar datos con aplicaciones de bienestar, como Apple Health, Function o MyFitnessPal, para conocer la mayor cantidad posible de datos de salud del usuario. Aunque OpenAI promete que toda esta información quedará almacenada de forma privada en el interior de ChatGPT, y que la empresa no la utilizará para entrenar a su IA, los expertos consultados por ABC ponen en duda que la herramienta pueda estar al alcance de los usuarios de la UE. Y todo por razones de privacidad.

«Tal y como está la regulación es muy complicado que este modo centrado en la salud llegue a Europa», explica Julio Mayol, director médico del Hospital Clínico San Carlos y profesor titular de Cirugía en la Universidad Complutense. Efectivamente, el Reglamento General de Protección de Datos de la UE es muy restrictivo respecto a la transferencia y tratamiento de datos relacionados con la salud. Además, la Ley de IA, que ya funciona en Europa, probablemente exigirá evaluaciones, documentación y controles adicionales a OpenAI.
Lo mismo señala Ulises Cortés, catedrático de Inteligencia Artificial en la Universidad Politécnica de Cataluña: «Si por el momento se queda solo en Estados Unidos es porque es donde la ley lo permite. En Europa, en principio, este tipo de herramientas es ilegal; habrá que ver si en el futuro la UE decide renunciar a la calidad de los datos». El docente apunta además que los usuarios deberían pensárselo dos veces antes de compartir su información clínica con un chatbot: «Es peligrosísimo compartir los datos de salud con ChatGPT, porque son íntimos y personales. Imagínate que compartes que tienes una enfermedad peligrosa y eso se hace público por un error de la máquina. El riesgo existe».

Los errores de la máquina

A pesar de los riesgos, desde su lanzamiento, a finales de 2022, ChatGPT ha sido empleado activamente por los usuarios para solventar dudas médicas. De acuerdo con OpenAI, actualmente, más de 230 millones de usuarios recurren semanalmente a la máquina con ese fin. En el anuncio de Salud, OpenAI remarca que la novedad está diseñada «para apoyar, no para reemplazar la atención médica. No sirve para diagnóstico ni tratamiento». Sin embargo, los expertos esperan que su llegada cause confusión en los pacientes. «Es difícil predecir cómo la población va a reaccionar a esto. Ataca a los sanitarios, y no tenemos claro cómo vamos combatir los problemas que cause o de quien será la responsabilidad si la máquina comete algún error, que es posible», apunta Mayol.
El doctor señala que ya hay casos en los que los pacientes entran en las consultas compartiendo con el médico los comentarios de ChatGPT cuando la máquina ha recibido algún análisis médico o se le han consultado algunos síntomas. «Todavía son anecdóticos, pero en el futuro creo que va a generar muchas tensiones entre médicos y pacientes», señala este médico.

«¿Y qué te va a decir? ¿Que usan tus datos para entrenar a ChatGPT? La manera de olvidar de una máquina que usa una red neuronal es quitar todos los datos y realizar de nuevo el aprendizaje»

De hecho, ChatGPT ya ha generado problemas médicos a algunos usuarios. El pasado agosto, ‘Annals of Internal Medicine Clinical Cases’ publicaba un estudio en el que se mencionaba el caso de un paciente que sufrió una intoxicación por bromuro después de solicitar consejo a la máquina de IA sobre una dieta. ‘Daily Mail’ también compartió el caso de un hombre que consultó al robot sobre un dolor de garganta. La herramienta le señaló que los síntomas no parecían graves, por lo que tardó meses en acudir al médico, que le acabó diagnosticando un cáncer de garganta.
«Desde un punto de vista general, hay que tener en cuenta que ChatGPT no sabe nada sobre nada, y tampoco de salud. Solo es un buscador que busca información y genera un texto resumen. Hace lo mismo que cualquiera de nosotros cuando buscamos síntomas en Google», señala Juan Ignacio Rouyet, profesor de IA en la Universidad Internacional de La Rioja y consultor sénior en la empresa de estrategia tecnológica Eraneos.
Este experto apunta además que, hasta la fecha, la mayoría de herramientas de IA generativa «descargan responsabilidades diciendo que los resultados que dan sus chatbots pueden ser erróneos, lo que pasa es que estas advertencias a veces están escondidas». Y lo cierto es que muchos usuarios no siempre son conscientes de que el fallo no solo es posible, sino más que probable.
Para desarrollar ChatGPT Salud, OpenAI afirma que ha contado con la colaboración de 260 profesionales de la salud de 60 países y con docenas de especialidades. Gracias a su trabajo, la máquina es capaz de «entender qué hace que una respuesta a una pregunta sobre la salud sea útil o potencialmente peligrosa». La empresa, además, se compromete a que no usa los datos de los pacientes para capacitar a su modelo de IA. Sin embargo, Cortés muestra dudas: «¿Y qué te van a decir? ¿Que lo hacen? La manera de olvidar de una máquina que usa una red neuronal es quitar todos los datos y realizar de nuevo el aprendizaje. Habrá que leer muy bien la letra pequeña».

Europa estudia investigar el uso de Grok para crear desnudos de niños y mujeres con IA

La Comisión Europea ha ordenado a la red social X de Elon Musk que conserve todos los documentos y datos internos relacionados con su chatbot de inteligencia artificial integrado, Grok, hasta finales de 2026, dijo el jueves un portavoz de la comisión en … declaraciones recogidas por ‘Reuters’.
«Esto se le está diciendo a la plataforma: ‘Conserven sus documentos internos, no se deshagan de ellos, porque tenemos dudas sobre su cumplimiento… y necesitamos poder tener acceso a ellos si lo solicitamos explícitamente’», dijo el portavoz de la Comisión Thomas Regnier.

El anuncio llega una semana después de que Grok, a través de su cuenta oficial en la red social, reconociese que algunos usuarios se habían aprovechado de un problema técnico de la herramienta para que la creación de este tipo de contenido fuera posible. «Hemos identificado fallas en las salvaguardas y las estamos corrigiendo con urgencia», se señaló en la publicación. Asimismo, la IA remarcaba que la creación de contenido erótico de esta clase »es ilegal y está prohibido«.
Las denuncias de abusos comenzaron a aparecer en X después de que, a finales de diciembre, se lanzara en Grok un botón de «editar imagen». Este permite a los usuarios modificar cualquier imagen en la plataforma -y, según las quejas-, algunos usuarios aprovecharon la novedad para eliminar parcial o completamente la ropa de mujeres o niños en las fotografías.

OpenAI crea ChatGPT Salud, su herramienta para responder preguntas médicas, analizar resultados y ofrecer consejos

OpenAI sigue sumando funcionalidades a ChatGPT. La tecnológica centrada en inteligencia artificial generativa ha anunciado la llegada de una nueva versión de su chatbot centrada en la salud y el bienestar llamada ChatGPT Salud. Esta está diseñada, según señala la propia tecnológica en comunicado, … para que el usuario pueda compartir de forma segura con la máquina su información médica, como los resultados de sus análisis o su historial clínico, para que la máquina lo ayude a interpretar los resultados recientes de sus pruebas, prepare sus citas médicas u ofrezca recomendaciones.
Desde la llegada de ChatGPT a la red a finales de 2022, los usuarios han recurrido al robot para buscar consejo médico. De acuerdo con la propia empresa, actualmente, más de 230 millones de personas a nivel global le hacen consultas semanales sobre bienestar y cuidado personal.

La novedad, que en primer momento solo estará disponible para los usuarios afincados en Estados Unidos, es compatible con aplicaciones de bienestar del ‘smartphone’, como es el caso de Apple Health, Function o MyFitnessPal. Gracias a ellas, el robot puede contar con toda la información básica de salud del usuario para poder aconsejarlo mejor. Ahora bien, que nadie se confunda. OpenAI deja claro que la herramienta no aspira a sustituir la atención médica tradicional.
«No sirve para diagnóstico ni tratamiento. En cambio, ayuda a resolver preguntas cotidianas y a identificar patrones a lo largo del tiempo, no solo en momentos de enfermedad, para que tengas más claridad y confianza en tus conversaciones médicas importantes», dejan claro desde OpenAI. La empresa también remarca que los datos médicos compartidos por los usuarios no serán empleados para el entrenamiento de ChatGPT. A este respecto, la empresa señala que la novedad «se creó como un espacio seguro con protecciones adicionales para la información médica sensible y controles fáciles de usar».

Los adolescentes australianos se saltan el bloqueo de redes sociales: «Es muy fácil hacer trampas»

La primera vez que Virginia se descargó una aplicación de redes sociales en su ‘smartphone’ tenía 12 años. Desde entonces, sitios como TikTok, Instagram, Snapchat o Roblox han jugado un papel clave en su día a día. No solo son los espacios donde charla … con amigos o mata el rato consumiendo los últimos virales; también son los lugares a los que recurre cuando quiere consultar información o despejar cualquier duda que le surja por el camino. Puede pasar navegando en ellas cinco horas diarias; por eso, cuando se enteró de que Australia, el país en el que lleva viviendo casi toda su vida, iba a prohibir el acceso a los menores de 16 años, se preocupó un poco. Pero fue para nada; porque desde que entró en funcionamiento el bloqueo, el pasado 10 de diciembre, no ha perdido el acceso a ninguna.
«No lo han hecho muy bien. Por ejemplo, Snapchat no me ha pedido que hiciese nada para verificar mi edad. TikTok únicamente me mostró una notificación en la que ponía que iban a mirar mi fecha de cumpleaños en la aplicación. Lo que pasa es que mucha gente no tiene puesto su cumpleaños real. Solo una vez me han hecho sacarme una foto para comprobar la edad y me ha salido que tengo 18 años», apunta en conversación con ABC la joven, que tiene todavía 15 años y lleva casi toda su vida residiendo en la ciudad de Melbourne.

El caso de Virginia no es anecdótico. Todos los amigos de su grupo siguen teniendo acceso a sus cuentas; y si eso es posible es porque la norma australiana tiene muchas limitaciones. Y los menores mucha inventiva. Efectivamente, desde inicios de diciembre el Gobierno del país oceánico obliga a ‘apps’ como X, Instagram, TikTok, Reddit, Youtube, Threads o el sitio de vídeos en ‘streaming’ Kick a desactivar todas las cuentas de usuarios menores de 16 años; además de poner barreras efectivas que les impidan utilizar de nuevo el servicio hasta que alcancen la edad mínima permitida.
Para cumplir con la obligación, las plataformas deben incorporar mecanismos que les ayuden a verificar la edad de los usuarios. Sin embargo, cada una puede utilizar los que considere oportunos siempre y cuando exista alternativa a la petición de un documento de identidad. Algunas están optando por pedir a los menores que compartan una fotografía de su rostros para que el sistema, mediante el uso de reconocimiento facial, pueda determinar la edad real. Otras recurren a la IA para determinar si la actividad de la cuenta encaja con la que le daría un menor de 16 años. Sea como sea, el desafío es mayúsculo. Y el gobierno australiano lo sabe.

La inteligencia artificial acaba con el sueño del metaverso de Zuckerberg

Es octubre de 2021. En un mundo en las postrimerías de la pandemia en el que mucha gente todavía camina con mascarilla por la calle, Mark Zuckerberg, CEO de Facebook, mira a cámara y explica que internet necesita una transformación de calado. Que la … red ya no da más de sí, así que le va a cambiar el nombre a su empresa, que pasará a conocerse como Meta, y va a trabajar para mandar al desguace todas esas pantallas, que solo nos aíslan. ¿El plan para sustituirlas? La creación del metaverso: un nuevo e inmersivo mundo digital -al estilo del que se ha visto en cintas de ciencia ficción, como ‘Ready Player One’- en el que el usuario solo necesita unas gafas de realidad virtual para replicar todo lo que se puede hacer en el mundo real; desde quedar con amigos y familia, hasta ir al trabajo, estudiar o viajar.
«Con el tiempo confío en que se nos vea como una empresa del metaverso, y quiero anclar nuestro trabajo e identidad en lo que estamos construyendo a futuro», dijo el padre de la red social por antonomasia. Pero hasta aquí, porque el sueño, cuatro años después de su presentación, no ha dado mucho más de sí. Y tampoco parece que lo vaya a dar en el futuro próximo, atendiendo al creciente interés de la tecnológica en jugar un papel destacado en el negocio de la inteligencia artificial generativa.

Hace unas semanas, medios como ‘Bloomberg’ informaron de que Meta tiene planes para comenzar a hacer importantes recortes en su división de Reality Labs dedicada a la construcción del nuevo mundo virtual; esa misma en la que la compañía ha quemado cerca de 70.000 millones de euros en los últimos cuatro años en el empeño sin obtener ningún resultado palpable. De acuerdo con las estimaciones, esa reducción en la inversión puede alcanzar hasta el 30%, y también acarreará despidos. Un importante repliegue que ya era patente en lo simbólico, porque durante los últimos años el término metaverso hasta ha caído en desuso dentro de la propia compañía, que ya apenas lo utiliza; ni siquiera durante los eventos anuales Meta Connect, en los que la empresa comparte sus novedades en materia de VR y (cada vez más) de inteligencia artificial.
Para Edgar Martín-Blas, CEO de la empresa especializada en realidad mixta Spatial Voyagers, y que trabajó con Meta en la construcción del mundo virtual, la desinversión tiene «todo el sentido» en lo económico. En su opinión, el término metaverso ya «está quemado y ha quedado atrás». «Creo que la apuesta por su creación fue una buena estrategia que podía tener sentido cuando se realizó, pero ya no estamos en ese punto», señala el experto en conversación con ABC. A este respecto, destaca que en el momento concreto en el que Meta realizó el anuncio, un otoño de 2021, lo peor de la pandemia de Covid-19 ya había pasado, pero en la sociedad todavía conservaba hábitos como el del teletrabajo, que poco a poco se fue desinflando, y el de recurrir a la tecnología para sustituir los encuentros personales con amigos y familia. Con el paso de los meses, y de los años, la presencia volvió a ganar terreno frente a lo virtual.

Meta espera comercializar anualmente diez millones de sus gafas de IA a partir de este mismo 2026

Además, la apuesta nunca llegó a calar en el consumidor; así lo demuestra el bajo interés en los visores de realidad virtual de la empresa, los Meta Quest, que siguen siendo de nicho y cuyas ventas, lejos de aumentar, han descendido durante los últimos meses, según ha reconocido la propia compañía. Todo lo contrario a lo que está ocurriendo con las gafas basadas en IA de la compañía, las ligeras Ray-Ban Meta, un dispositivo con el que el usuario puede tomar fotografías y vídeos, escuchar música, contestar llamadas telefónicas o mantener conversaciones con un chatbot similar a ChatGPT. Las ventas de estas lentes se han triplicado en apenas un año, y la tecnológica tiene previsto comercializar diez millones de unidades al año a partir de este 2026.

Gafas inteligentes

El pasado septiembre, Zuckerberg anunció el lanzamiento de una nueva versión des estas gafas llamada Ray-Ban Meta Display. ¿La novedad?: incorporan una pantalla de alta resolución con la que el usuario es capaz de consultar los mensajes que recibe, consultar información visual sobre el entorno que le rodea y hasta notificaciones de redes sociales. Y todo gracias a Llama, la inteligencia artificial de la empresa.
«El futuro va por ahí, por las gafas con IA que pueden convertirse con el tiempo en el sustituto del móvil. Lo que creo es que ahora vamos hacia un internet en el que las comunicaciones ya no tienen nada que ver con las pantallas de siempre. Todo funcionará a través de dispositivos de inteligencia artificial que serán capaz de proyectar la información ante los ojos de los usuarios», dice Martín-Blas.
Cabe recordar, además, que durante 2025 Meta ha realizado un gran esfuerzo para ponerse a la vanguardia de la inteligencia artificial. La compañía ha realizado un importante esfuerzo económico para atraer talento de empresas como Google y OpenAI; además, ha anunciado que piensa invertir decenas de miles de millones de dólares para conseguir desarrollar una nueva tecnología llamada superinteligencia, que es como llaman los gurús de Silicon Valley a esa futura máquina que, en teoría, será más lista que el humano más listo, independientemente del campo de conocimiento. Para ello, la compañía anunció a mediados de año la creación de un nuevo laboratorio llamado Superintelligence Lab.

La empresa está invirtiendo miles de millones de dólares con el objetivo de desarrollar la superinteligencia artificial

«(Esta división) ha tenido un comienzo excelente y seguimos liderando la industria de las gafas de IA. Si aprovechamos, aunque sea una fracción la oportunidad que tenemos por delante, los próximos años serán el período más emocionante de nuestra historia», señaló Zuckerberg en el último informe de resultados de la tecnológica. Todo indica que parte importante de la inversión que Meta había estado realizando en metaverso, ahora va a ir directa al desarrollo de inteligencia artificial y de las nuevas gafas ligeras de la compañía.