Inteligencia artificial de Google cambia para intervenir en crisis personales de sus usuarios

Google actualizó su herramienta de inteligencia artificial denominada Gemini para facilitar el acceso a recursos de auxilio ante posibles crisis de salud mental. El sistema ahora detecta señales de alerta en las conversaciones y ofrece información precisa para conectar a las personas con servicios de ayuda profesional.

La compañía tecnológica informó que el objetivo es promover el bienestar de los usuarios a través de una tecnología responsable. El entrenamiento del programa impide que la máquina valide comportamientos dañinos o refuerce creencias falsas durante una interacción.

Herramientas de respuesta inmediata

Gemini incorporó una interfaz denominada “Hay ayuda disponible”, la cual fue creada junto con especialistas clínicos. Este módulo aparece de forma automática si la herramienta identifica situaciones críticas relacionadas con el suicidio o la autolesión.

La nueva interfaz permite que las personas accedan a líneas de apoyo humano con un solo toque en la pantalla. Google aclaró que este servicio no sustituye la terapia clínica profesional ni la atención médica de emergencia en centros de salud.

Seguridad para menores de edad

La empresa estableció protecciones específicas para los adolescentes que utilizan este sistema de inteligencia artificial. El lenguaje del programa evita simular intimidad o cercanía emocional para prevenir que los menores desarrollen una dependencia con la máquina.

Las configuraciones de seguridad buscan que el usuario comprenda siempre la naturaleza no humana del asistente digital. Asimismo, el sistema incluye filtros diseñados para combatir el acoso escolar y otras variantes de hostigamiento en la red.