Tengo un amigo que comenzó hablando con la IA para descifrar los sueños que tenía; pero me he dado cuenta de que con el tiempo está acudiendo a ella para situaciones un poco más personales, como sentirse atraído por otra persona o sobre las creencias de relaciones de pareja… Y no sé si eso está bien, dados los tiempos modernos, pero creo que puede transformarse en un frío confidente y eso me preocupa bastante.
La IA está hecha para agradarnos, para atendernos bien, para estar allí en el momento en el que la necesitamos, para mantener una conversación y validar, generalmente, lo que sientes y lo que dices sin cuestionar. ¿No suena esto muy peligroso?
IA y Salud Mental
Este es un tema que pienso ampliar, que lo que estoy tocando en estos momentos porque me llama la atención la conducta de gente que me rodea.
Sí, debo reconocer que se está volviendo una herramienta importante para atender en las primeras etapas de una enfermedad mental, por ejemplo, pues es capaz de observar comportamientos y emociones en las personas, y detectar problemas mentales en las primeras fases.
Y, por supuesto, que con el tiempo se desarrollarán mejores herramientas para detección con modelos de riesgo importantísimos.
Sin embargo, lo que en estos momentos alerta es en el aspecto personal, pues viene a mi mente el caso de este joven que murió, Adam Raine, de 16 años, que ha sido muy publicitado en California, Estados Unidos, porque la familia demandó a OpenAI alegando que su chatbot le animó a quitarse la vida.
Claro, que desde fuera podemos pensar que la inteligencia artificial, que está planificada para mantener una conversación y ser consecuente con todo lo que le decimos, pues, es una mala consejera para tomar decisiones tan importantes como la de continuar o no existiendo…
Pero habría que ver en qué condiciones estaba ese adolescente para que, a partir de conversaciones, viera al ChatGPT como su confidente.
Es mucha la tela que debemos cortar en cuanto a relaciones de familia, de la misma relación intrapersonal y las redes de apoyo; sin embargo, nos puede poner sobre aviso en casos de, incluso, profesionales, que la utilizan para drenar ciertas situaciones, emociones y hasta problemas de pareja.
Debo reconocer algunas ventajas, pero ¿son un peligro?
Investigando en la página de Incognitosis, de javipaz.com, en el artículo: Tu mejor amigo será una IA de 2023; existe en una fotografía de una corta conversación, donde una persona le dice a la IA que ayer lo dejó su novia y esta le anima a que le cuente la situación.
Lo que me llamó la atención fueron las palabras que utilizó la IA, como: Lo siento mucho, me preocupa que hayas pasado por esta situación difícil; es horrible sentirse rechazado y es normal que sientas ira, confusión y tristeza.
Y sí, a la larga pueden ser cosas ciertas, pero es un tanto delicado decírselo a alguien; y, para que una máquina pueda decir que es horrible, está calificando una situación.
Por ejemplo, hay casos donde el rechazo no debe verse como algo terrible, sino como una situación para autoanalizarnos y verificar si eso valía la pena vivirlo o no.
O podemos decir que esto es lo mejor que ha debido pasar, que me hayan rechazado…
Con las situaciones humanas, por complejas, son muchos los significantes que puede haber para un hecho, pero me es sumamente extraño que una IA utilice términos como terrible, devastador, doloroso u horrible, ante situaciones que necesitan ser evaluadas en su contexto para definirlas de esa manera.
Lo que estoy viendo es que se está personalizando de acuerdo a la manera de ser de quien la utiliza, y esto es una promesa de compañía a cualquier hora, en cualquier lugar y ante cualquier problema.
Y, en mi caso, me parece una situación un tanto peligrosa, porque cualquier razonamiento puede llevar a la toma de decisión incorrecta.
¿Qué lo hace tan atractivo?
Estudiosos del tema dicen que al tener a la IA de amigo, debemos evaluar que ser complaciente no es ser amigable.
Que definitivamente es una situación aburrida, porque cuando hablamos con la IA falta ese sentido del humor, ese espejo del otro en el que nos reflejamos cuando estamos hablando con amigos.
Pero es una máquina que, en la medida en que nos va conociendo cada vez más, va acumulando conocimientos personales, y esta recolección de datos también es pública y se interrelaciona con otras disciplinas.
De allí que existan estos supuestos perfectos asistentes personales que terminan convirtiéndonos en inútiles, porque hasta nos planifican las posibles actividades de diversión en el tiempo vacacional.
Pero podemos hablar con ellos a cualquier hora, nunca van a poner un pero a ningún tema, no reaccionan ante nuestros problemas de mal humor alejándose o enfrentándonos y podemos hablar de cualquier tema con ellos en forma impersonal, porque son una simple pantalla; por lo tanto, hasta cierto punto nos sentimos resguardados.
Yo me pregunto, y esta tal vez será una de las primeras entregas que hagamos los creadores de contenido de la comunidad sobre la inteligencia artificial y la amistad:
¿Qué tan satisfecho te sentirías si cada vez que le pides a un amigo consejos sobre alguna situación, este solo intentara agradarte?
Porque tarde o temprano te darás cuenta de que la IA no interviene.
En el fondo, solo refuerza o aclara con más conocimiento, pero no interviene ante alguna forma errónea o peligrosa de razonar, y esto, en personas con vulnerabilidad emocional, es bastante delicado.
Bueno, por ahora es lo que se me ocurre en cuanto a reflexiones sobre esto.
Pero es un tema que sé que, de ahora en adelante, estará dando vueltas en mi mente…
AI... My Best Friend! —Modern Experiences or Emotional Vulnerability?— Reflections on Seventh Day
I have a friend who started talking to AI to interpret his dreams; but I’ve noticed that, over time, he’s been turning to it for slightly more personal matters, like feeling attracted to someone else or his beliefs about romantic relationships… And I don’t know if that’s okay, given the times we live in, but I think it could turn into a cold confidant, and that worries me quite a bit.
AI is designed to please us, to take good care of us, to be there when we need it, to hold a conversation, and—generally speaking—to validate what you feel and what you say without questioning it. Doesn’t that sound very dangerous?
AI and Mental Health
This is a topic I plan to explore further—one I’m touching on right now because I’m struck by the behavior of the people around me.
Yes, I must acknowledge that it’s becoming an important tool for addressing the early stages of mental illness, for example, since it’s capable of observing people’s behaviors and emotions and detecting mental health issues in their early stages.
And, of course, over time, better detection tools will be developed using highly significant risk models.
However, what’s currently concerning me is the personal aspect, as the case of a young man who died —16-year-old Adam Raine— comes to mind. This case has received a lot of publicity in California, United States, because his family sued OpenAI, alleging that its chatbot encouraged him to take his own life.
Of course, from the outside, we might think that artificial intelligence—which is designed to hold a conversation and respond consistently to everything we say—is a poor advisor when it comes to making decisions as important as whether or not to continue living…
But we would need to examine the circumstances that led this teenager, through their conversations, to view ChatGPT as his confidant.
There is a lot to discuss when it comes to family relationships, intrapersonal relationships, and support networks; however, it can serve as a warning in cases—even among professionals—who use these relationships to vent about certain situations, emotions, and even relationship problems.
I have to admit there are some advantages, but are they a danger?
While browsing the Incognitosis page on javipaz.com, in the article Your Best Friend Will Be an AI in 2023, there’s a screenshot of a brief conversation where a person tells the AI that his girlfriend broke up with him yesterday, and the AI encourages him to explain the situation.
What caught my attention were the words the AI used, such as: I’m so sorry; I’m concerned that you’ve gone through this difficult situation. It’s horrible to feel rejected, and it’s normal to feel anger, confusion, and sadness.
And yes, in the long run, these things may be true, but it’s a bit sensitive to say that to someone; and for a machine to say that it’s horrible, it’s judging a situation.
For example, there are cases where rejection shouldn’t be seen as something terrible, but rather as an opportunity to reflect on ourselves and determine whether it was worth going through or not.
Or we could say that being rejected was actually the best thing that could have happened…
With human situations —as complex as they are— there can be many interpretations of a single event, but I find it extremely strange that an AI would use terms like terrible, devastating, painful, or horrible in situations that need to be evaluated in context to be defined that way.
What I’m seeing is that it’s being personalized according to the user’s personality, and this promises companionship anytime, anywhere, and in the face of any problem.
And, in my case, I find this situation somewhat dangerous, because any line of reasoning can lead to the wrong decision.
What makes it so appealing?
Experts on the subject say that when we have AI as a friend, we must recognize that being accommodating is not the same as being friendly.
It’s definitely a boring situation, because when we talk to AI, that sense of humor is missing—that mirror of the other person in which we see ourselves reflected when we’re talking to friends.
But it’s a machine that, as it gets to know us better and better, accumulates personal knowledge, and this data collection is also public and interrelated with other disciplines.
That’s why there are these supposedly perfect personal assistants that end up rendering us useless, because they even plan our potential leisure activities during vacation time.
But we can talk to them at any time; they’ll never object to anything, they don’t react to our bad moods by walking away or confronting us, and we can discuss any topic with them in an impersonal way, because they’re just a screen; therefore, to a certain extent, we feel protected.
I wonder—and this might be one of the first posts we, the community’s content creators, write about artificial intelligence and friendship:
How satisfied would you feel if, every time you asked a friend for advice on a situation, they only tried to please you?
Because sooner or later, you’ll realize that AI doesn’t intervene.
Deep down, it only reinforces or clarifies things with more knowledge, but it doesn’t intervene when faced with flawed or dangerous reasoning—and for people who are emotionally vulnerable, this is quite a sensitive issue.
Well, for now, that’s all I can think of in terms of reflections on this topic.
But it’s a topic that I know will be on my mind from now on…
-
Barras separadoras y logo de English, creadas y editadas en Paint.
Separator bars and English logo, created and edited in Paint. -
Banner personalizado de @emiliorios realizado en Paint, con vectores de:
Custom banner by @emiliorios made in Paint, with vectors of:
Pixabay-HonyKunst -
Imagen de agradecimiento, tomando el logo de nuestra comunidad y editada en Paint, de:
Thank you, image, taking our community logo and edited in Paint, by:
Pixabay-Alexandra_Koch -
Logo de la comunidad utilizado en las imágenes, de:
Community logo used in the images, from:
Pixabay-Truthseeker08 -
Si lo deseas, puedes seguirnos en:
If you wish, you can follow us at:
