Por Sy Boles, The Harvard Gazette:
El médico e investigador en IA Adam Rodman dice que la IA puede ser útil, pero ofrece algunos consejos sobre cómo y cuándo usarla de forma segura
Los médicos notaron algo inusual a finales de la década de 2000: los pacientes llegaban a las consultas armados con información médica a veces dudosa que habían obtenido en internet de “Dr. Google”, según Adam Rodman, internista e investigador en inteligencia artificial.
Hoy, alrededor del 68 por ciento de los adultos ha recurrido a un motor de búsqueda para obtener consejo médico en algún momento. Pero el Dr. Google tiene un competidor. Aproximadamente el 32 por ciento de los adultos, cerca de la mitad de quienes buscaron consejo en línea, recurrieron a chatbots de IA para obtener ayuda.
Rodman considera que estos recursos, usados de forma adecuada, son en general un beneficio neto. En artículos de opinión y cursos en línea, Rodman, profesor asistente de medicina en la Facultad de Medicina de Harvard en el Beth Israel Deaconess Medical Center, ha compartido consejos sobre cómo utilizar mejor al “Dr. Chat”.
En esta entrevista, editada por longitud y claridad, Rodman ofrece un sistema de semáforo para decidir cuándo es seguro consultar a un chatbot y cuándo realmente se debe consultar a un médico.
¿Cómo veían los médicos la información médica en línea antes de la era de la IA?
La literatura temprana se refiere a esto como el paciente informado por internet. A principios de los años 2000, los médicos notaban que las personas llegaban a sus consultas con artículos que encontraban en línea, pero esto ocurría solo entre personas realmente tecnológicas. Definitivamente no era una interacción normal.
Luego, a finales de los 2000, los motores de búsqueda empezaron a aprovechar la tecnología de redes neuronales y pudieron ofrecer información de salud más relevante. Descubren qué es lo que vas a querer leer a continuación y te lo entregan.
Ahí es cuando apareció por primera vez el término “Dr. Google”, a menudo usado de forma peyorativa por médicos que veían a pacientes llegar con un nivel de confianza que podía o no estar justificado.
Por supuesto, hay pacientes que saben mucho sobre su salud y están muy bien informados, pero también vimos a muchos pacientes mal informados.
Ahí es donde surge el concepto de cibercondría. Está relacionado con la hipocondría: la idea de que los motores de búsqueda pueden llevar a las personas a lugares cada vez más extremos, hasta pasar de buscar un dolor de cabeza a leer sobre glioblastoma multiforme —y las investigaciones han demostrado que es un fenómeno real.
“Tanto Google como las empresas de IA son ahora muy conscientes de que las personas usan sus herramientas para información de salud y están intentando incorporar mecanismos de seguridad.”
Todos tenemos ansiedades comprensibles y razonables sobre nuestra salud. Buscar información es algo fundamental del ser humano.
El problema surge cuando eso empieza a interactuar con estos algoritmos de recomendación que están optimizados para el compromiso y para mostrarte lo que quieres ver, incluso si es incorrecto.
Ahora introduzcamos la IA. ¿Es diferente preguntar a un chatbot sobre síntomas en comparación con buscarlos en Google?
Es matizado. En un sentido, los LLM hacen exactamente lo que hace Google: te muestran cosas que inconscientemente quieres escuchar, incluso si te generan ansiedad.
Por otro lado, a diferencia de una búsqueda en Google, algunas personas sienten que tienen una relación con un LLM. Los LLM hablan con una autoridad y confianza extremas, sin importar lo que digan. Se ha estudiado poco hasta qué punto eso podría empeorar la cibercondría.
Tanto Google como las empresas de IA son ahora muy conscientes de que las personas usan sus herramientas para información médica y están intentando incorporar mecanismos de seguridad. Los bots te dirán que vayas a emergencias o que llames a tu médico, ese tipo de cosas.
Pero, al menos en teoría, los modelos de lenguaje son mucho, mucho mejores que Google, especialmente los modelos de razonamiento más modernos, cuando se trata de identificar condiciones médicas.
¿Qué quiere decir con “en teoría”?
Hubo un muy buen artículo a principios de este año de un investigador llamado Andrew Bean que probó varios LLM y encontró que rendían muy bien identificando condiciones médicas por sí solos, pero mucho peor en conversación con personas reales.
Lo que eso muestra es que la interacción del usuario importa mucho. La forma en que las personas interactúan con el modelo, la claridad de sus preguntas, importa. Esos fenómenos psicológicos de los que hablamos están presentes de maneras que son realmente difíciles de mitigar.
¿Qué tipos de preguntas de salud son seguras para hacerle a un LLM y cuáles no?
Yo lo dividiría en un sistema de semáforo. Rojo: nunca seguro. Amarillo: a veces seguro. Verde: casi siempre seguro.
En el verde están las preguntas generales sobre salud, donde la calidad de la información no es particularmente dependiente del contexto.
Por ejemplo: “Tengo diabetes y mi médico me ha dicho que necesito una dieta para diabéticos. Aquí hay cosas que me gusta comer. ¿Puedes ayudarme a construir un plan de comidas para diabéticos?” O “Estoy intentando empezar un nuevo programa de ejercicio, ¿puedes ayudarme?” O “Mi médico me recetó amlodipino. ¿Cuáles son los efectos secundarios comunes?”
En el amarillo están las preguntas donde quieres involucrar a un médico en el proceso. Por ejemplo, prepararte para tus visitas, entender una visita después de que ocurrió o entender un resultado de análisis que no tiene completamente sentido para ti.
Digamos que acabas de salir de la consulta médica y estás un poco confundido sobre lo que está pasando. Entra a tu portal del paciente, copia la nota, quita tu información identificable, introdúcela en un LLM y luego ten una conversación.
Con este tipo de preguntas, realmente necesitas asegurarte de introducir suficiente contexto de salud para ayudar al LLM a darte una buena respuesta. Así que necesitas tener cierta comprensión de “ingeniería de prompts” para obtener información que te sea útil.
En el semáforo rojo —y debo enfatizar que esto podría cambiar en el futuro a medida que la tecnología evolucione— están cosas como preguntar a un LLM cómo manejar una condición, si tu médico está recetando el medicamento correcto o por qué te recetaron el fármaco X en lugar del fármaco Y. Estas son preguntas altamente contextuales para las cuales los modelos no están entrenados.
En resumen, la mejor forma de usarlo en este momento no es como reemplazo del consejo médico, sino como una forma de ayudarte a prepararte o aumentar tu comprensión antes o después de las consultas.
¿Existen preocupaciones de privacidad al compartir información médica con la IA?
No es inherentemente más riesgoso compartir datos con una empresa de IA que con un motor de búsqueda. Dicho esto, las principales compañías —OpenAI, Anthropic, Microsoft— están desarrollando funciones de salud específicamente para que las personas puedan introducir su información médica directamente, y eso es bastante nuevo.
Además, los estudios han demostrado que las personas comparten más información con un LLM de la que compartirían con un motor de búsqueda. Así que desde una perspectiva tecnológica no es diferente, pero en la práctica es una preocupación de seguridad mucho mayor.
By Sy Boles, The Harvard Gazette:
Physician and AI researcher Adam Rodman says AI can be helpful but has some tips on how, when to use it safely
Physicians noticed something unusual in the late 2000s: Patients were coming to appointments armed with sometimes-dubious medical information they had gleaned online from “Dr. Google,” according to Adam Rodman, an internist and AI researcher.
Today, about 68 percent of adults have turned to a search engine for medical advice in the past. But Dr. Google has a competitor. About 32 percent of adults, approximately half of those who sought advice online, turned to AI chatbots for help.
Rodman thinks such resources, used appropriately, are an overall net good. In op-eds and online courses, Rodman, a Harvard Medical School assistant professor of medicine at Beth Israel Deaconess Medical Center, has shared advice for how to best employ Dr. Chat.
In this interview, edited for length and clarity, Rodman offers a stoplight system to figure out when it’s safe to ask a chatbot, and when you should really just ask your doctor.
How were doctors thinking about online medical information before the age of AI?
The early literature refers to this as the internet-informed patient. In the early 2000s, doctors noticed people would come into their appointments with articles they found online, but it was still only among really tech-savvy people. It certainly wasn’t a normal interaction.
Then in the late 2000s, search engines started to take advantage of neural network technology, and they were able to serve up more relevant health information. They figure out what you’re going to want to read next, and they give it to you.
That’s when we first got the phrase “Dr. Google,” often used as a pejorative, from doctors who saw patients coming in with a level of confidence that may or may not have been earned.
Of course, there are patients who know a lot about their health and are very well informed, but we also saw a lot of patients misinformed.
That’s where we get this concept of cyberchondria. It’s related to hypochondria: this idea that search engines can drive people to more and more extreme places until you go from googling your headache to reading about glioblastoma multiforme — and research has shown that it’s a real phenomenon.
“Both Google and AI companies are now very aware that people are using their tools for health information and are trying to build in safety mechanisms.”
We all have understandable and reasonable anxieties about our health. Seeking out information is something fundamental about humanity.
The problem is when that starts to interact with these recommendation algorithms that are optimized for engagement, and for showing you what you want to see even if it’s incorrect.
Now let’s bring AI into the mix. Is it any different to ask a chatbot about symptoms versus googling them?
It’s nuanced. In one sense, LLMs do exactly what Google does: They serve you up the things you unconsciously want to hear, even if those things make you anxious.
On the other hand, unlike with a Google search, some people feel they have a relationship with an LLM. LLMs speak with extreme authority and confidence no matter what they say. It’s under-explored the extent to which that could make cyberchondria worse.
Both Google and AI companies are now very aware that people are using their tools for health information and are trying to build in safety mechanisms. The bots will tell you to go to the emergency room or call your doctor, those sorts of things.
But at least theoretically, language models are much, much better than Google, especially the more modern reasoning models, when it comes to identifying medical conditions.
What do you mean by “theoretically”?
There was a very good paper earlier this year from a researcher named Andrew Bean that tested several LLMs and found they performed very well at identifying medical conditions alone, but did much worse in conversation with real people.
What that shows is that user interaction matters a lot. The way people interact with the model, the clarity of their questions, matters. Those psychological phenomena we talked about are present in ways that are really hard to mitigate.
What kinds of health questions are safe to ask an LLM, and what kinds aren’t?
I would divide it into a stoplight system. Red: never safe. Yellow: sometimes safe. Green: almost always safe.
In the green light are general questions about health, where the quality of the information is not particularly context-dependent.
For example, “I have diabetes and my doctor has told me I need to eat a diabetic diet. Here are some things I like to eat. Can you help me build a diabetic meal plan?” Or “I’m trying to start a new exercise program, can you help?” Or “My doctor just prescribed me amlodipine. What are some common side effects?”
In the yellow light are questions where you want to involve a doctor in the loop. For example, prepping for your visits, understanding a visit after it happens, or understanding a test result that doesn’t entirely make sense to you.
Let’s say you just left your doctor’s visit and you’re a little bit confused about what’s going on. Log in to your patient portal, copy that note, take out your identifying information, plug it into an LLM, and then have a discussion.
With these kinds of questions, you really need to make sure you’re putting in enough health context to help LLM give you a good response. So you need to have some understanding of prompt engineering to get information that’s helpful for you.
In the red light — and I should stress that this might change in the future as technology develops — are things like asking an LLM how to manage a condition, if your doctor is prescribing the right medication, or why you were prescribed drug X over drug Y. These are highly contextual questions that the models aren’t trained for.
In short, the best way people can use it right now is not as a replacement for medical advice but as a way to help prepare or increase your understanding before or after visits.
Are there privacy concerns when it comes to sharing health information with AI?
It’s not inherently riskier to share data with an AI firm than with a search engine. That said, the major companies — OpenAI, Anthropic, Microsoft — are now developing health functions specifically so that people can put in their medical information directly, and that’s quite new.
Additionally, studies have shown people do share more information with an LLM than they would with a search engine. So from a technology perspective, it’s no different, but in practice it is a much bigger security concern.
Bolivian Thoughts | Pensamientos Bolivianos (Bilingual/Bilingüe) 