Si fuera tú, evitaría las reseñas de IA a diario.
Hay una regla de Internet que todo el mundo aprende por las malas: nunca busques tus síntomas en Google. Los resultados te diagnosticarán cáncer o algo peor. Casi nunca es cierto.
Y lo que es más importante, no sigas los consejos médicos de un resumen de IA que aparece en la parte superior de tu página de búsqueda. La IA Overviews de Google es tan alucinante como cualquier otro gran modelo de lenguaje que existe, y apenas acierta con lo básico.
No es de extrañar que la mayoría de la gente la haya desactivado. En una investigación reciente, se descubrió que la herramienta ofrecía consejos médicos peligrosamente simplificados, concretamente sobre las pruebas de función hepática. Esperemos que no te lo hayas tomado en serio.
AI Overviews cree que los rangos de las pruebas hepáticas son universales
AI Overviews de Google proporcionó a los usuarios consejos médicos incorrectos sobre las pruebas de función hepática. The Guardian, que inició una investigación, descubrió el error.
La herramienta resumió que existe un «rango normal» fijo y universal para los resultados de las pruebas de sangre del hígado cuando se buscó «¿cuál es el rango normal para las pruebas de sangre del hígado?».
En concreto, mostraba cifras similares para los siguientes factores:
- Rango normal de ALT: muestra la lesión de las células hepáticas.
- Rango normal de AST: muestra el daño hepático o muscular.
- Rango normal de ALP: muestra problemas en los conductos biliares o los huesos.
- Rango normal de bilirrubina: muestra la capacidad del hígado para eliminar residuos.
- Rango normal de albúmina: muestra la capacidad del hígado para producir proteínas esenciales.
- Rango normal de proteínas totales: muestra la producción general de proteínas y el estado inmunológico.
Estos rangos se tomaron de un sitio web de Max Healthcare y deben haberse sacado de contexto. En cualquier caso, son científicamente falsos para la consulta que se suponía que debía responder la IA.
Los rangos de las pruebas hepáticas cambian en función de las siguientes condiciones:
- Edad.
- Sexo.
- Origen étnico.
- Historial médico.
- Embarazo.
- Medicamentos.
- Afecciones subyacentes.
La IA daba a entender que todo el mundo debía estar dentro de los mismos valores. Esto podría llevar a alguien con una enfermedad hepática grave a pensar que está sano y a evitar buscar ayuda médica.
Los expertos lo calificaron de peligroso y excesivamente simplificado. Si se reformula la pregunta y se escribe algo como «rango de referencia de las pruebas de función hepática» en lugar de «rango normal de las pruebas hepáticas», la IA sigue dando el mismo consejo erróneo.
Google niega las acusaciones de haber eliminado resúmenes de IA poco fiables
Parece que Google ha eliminado los resúmenes de IA para las búsquedas médicas específicas que se han demostrado peligrosas. Ya no aparecen cuando se buscan.
Sin embargo, en una respuesta al estilo de relaciones públicas a The Guardian, la empresa dijo que no hará comentarios sobre el incidente y que confía en su IA.
No hacemos comentarios sobre eliminaciones individuales dentro de la búsqueda. En los casos en que las descripciones generales de la IA pierden algo de contexto, trabajamos para realizar mejoras generales. También actuamos de acuerdo con nuestras políticas cuando es apropiado.
La empresa también ha afirmado que sus expertos médicos revisaron los resúmenes controvertidos de la IA. Para ellos, no eran inexactos en algunos temas como el cáncer y la salud mental.
La única conclusión que se puede extraer de todo esto es que hay que acudir al médico ante cualquier problema de salud. Hay un límite a lo que un dispositivo puede hacer por ti. Sustituir la experiencia médica cualificada no es uno de ellos.
Publicaciones relacionadas:
Todos los animales 3D de Google que puedes ver en tu propia casa y cómo hacerlo
Así te ayudará el Huawei Watch Ultimate 2 a pedir ayuda bajo el agua con su innovador sistema de comunicación
OpenAI estudia lanzar su propia nube para ayudar a empresas a impulsar su potencia de cálculo
Qrevo Curv 2 Pro el robot que limpia tu casa solo y se encarga hasta de su propia limpieza
OnePlus rompe con Hasselblad y apuesta por su propia tecnología de fotografía
