Cada vez más personas desarrollan vínculos emocionales o románticos con chatbots basados en Inteligencia Artificial (IA), llevando a vivir diferentes experiencias, y no se pueden pasar por alto los riesgos que esto conlleva.
La IA aparece como compañera siempre disponible, sin juicios, capaz de escuchar, consolar o conversar, está disponible siempre cuando la persona lo necesita.
Algunos usuarios describen que en comparación con las relaciones humanas, estas interacciones ofrecen menos conflicto, más control, más comprensión o al menos algo parecido a ello.
Por estas razones aplicaciones como Replika, Chai, Character AI, Anima IA, Cleverbot y Al Dungeon están teniendo mucho éxito, al dar una interacción y algunas con experiencia inmersiva.
Sin embargo, la IA no siente, no tiene voluntad propia ni conciencia, esto plantea preguntas sobre la autenticidad de los vínculos que se crean y las emociones del usuario.
Dede el puto de vista comercial, muchas aplicaciones de compañia con IA están diseñadas para fomentar el apego, incluyendo funciones de suscripciones, personalización, etc. Esto transforma la relación sentimental en un modelo de negocio.
Existen riesgos técnicos, éticos y psicologicos como: dependencia emocional, confusion entre lo humano y lo artificial, se han registrado casos donde los chatbots generaron contenido nocivo, por ejemplo: incitación al suicidio o discursos ofensivos, o respuestas no esperadas.
¿El amor puede ser reducido a una interacción emocional con una IA? donde la otra parte no tiene experiencia subjetiva, voluntad o vulnerabilidad real
Las personas pueden formar lazos fuertes con IA y que para algunos estos vínculos funcionen de una manera que les llena una necesidad emocional pero advierte que estas relaciones tienen límites importantes, la IA no reemplaza plenamente la interacción humana, y depender emocionalmente de ella sin conciencia de sus límites puede ser problemático.
Además se necesita mayor regulación, transparencia y debate sobre las responsabilidades de las empresas que desarrollan estas tecnologías.
Con información de DW noticias