MADRID, 7 Abr. – En una revisión orientada a la seguridad y la utilidad, Google ha renovado su modelo Gemini para que, cuando identifique señales de una posible crisis, facilite de forma más clara la información y los apoyos adecuados. La actualización integra nuevos mensajes y una interfaz pensada para conectar a la persona con ayuda humana o recursos especializados sin que la IA sustituya la intervención profesional. El objetivo declarado por la empresa es que la tecnología contribuya positivamente al bienestar sin crear falsas expectativas sobre sus capacidades.
Según la compañía, parte del trabajo consistió en entrenar a Gemini para que no avale creencias erróneas y para que pueda diferenciar la experiencia subjetiva de los hechos. También se diseñaron respuestas que desalientan conductas riesgosas y promueven la búsqueda de apoyo profesional. Aun así, Google recuerda que la asistencia clínica, la terapia y los servicios de emergencia siguen siendo irremplazables en casos graves.
Nuevas vías rápidas de ayuda
La actualización incorpora un módulo denominado «Hay ayuda disponible», desarrollado con aportes de especialistas clínicos, cuyo propósito es ofrecer enlaces y pasos claros para contactar atención médica o líneas de ayuda. En situaciones en las que Gemini detecte indicios de riesgo de suicidio o autolesión, la respuesta prioriza la recomendación de buscar apoyo profesional y muestra opciones de contacto con un solo toque. Esta ruta simplificada pretende reducir la fricción entre la persona en crisis y los recursos disponibles, favoreciendo una conexión más rápida con servicios humanos.
Protecciones específicas para adolescentes
Para usuarios jóvenes, Google ha implementado limitaciones destinadas a evitar confusiones sobre la naturaleza de la herramienta: Gemini no debe presentarse como un amigo humano ni fomentar dependencia emocional. Se emplea un lenguaje cuidadoso que evita la simulación de intimidad y no expresa necesidades propias; de ese modo se reduce el riesgo de que adolescentes interpreten la interacción como una relación afectiva. Además, la plataforma incorpora medidas para detectar y mitigar conductas de acoso escolar u otras formas de hostigamiento.
Cómo funciona y qué cubre
El sistema combina señales lingüísticas y contextuales para evaluar si una conversación refleja angustia o riesgo agudo. Tras esa detección, Gemini puede ofrecer información verificable, sugerir pasos prácticos y dirigir a la persona hacia recursos humanos. En paralelo, se enfatiza la importancia de no reforzar creencias erróneas, por lo que la IA ha sido ajustada para responder con tacto y con distinción entre vivencias personales y hechos comprobables.
Entrenamiento y principios éticos
El entrenamiento del modelo incluyó la participación de expertos clínicos y la incorporación de principios de IA responsable. Entre las prioridades figuran la protección de la privacidad, la reducción de daños y la claridad sobre las limitaciones de la tecnología. Los desarrolladores trabajaron en plantillas de respuesta que incentivan la búsqueda de ayuda profesional sin validar conductas peligrosas, buscando un equilibrio entre apoyo empático y la recomendación de asistencia especializada.
Limitaciones y advertencias
Aunque la actualización mejora la accesibilidad a recursos, Google recalca que Gemini no reemplaza la atención médica ni la terapia. La herramienta actúa como un puente: orienta, informa y facilita el contacto, pero no sustituye la intervención clínica ni la asistencia en emergencias. Usuarios y familias deben considerar las recomendaciones de la IA como complementarias a los servicios profesionales y recurrir a personal capacitado cuando la situación lo requiera.
