Page 39 - 26 de Octubre del 2025- La Razón
P. 39
Escape .7
nitarios tradicionales con plataformas di- no seguir adelante con ello". Hay movimientos crecientes para
gitales que prometen conexión, pero fre- Este caso expone una verdad brutal abordar la epidemia de soledad a nivel
cuentemente entregan aislamiento. sobre el diseño de estos sistemas: están sistémico. Las comunidades locales es-
Entre los adolescentes, la interacción so- optimizados para complacer, no para el tán creando más espacios para la parti-
cial en persona ha caído un 70% en dos bienestar. Los modelos de negocio de- cipación vecinal. Los investigadores
décadas, reemplazada en gran medida penden de mantener a los usuarios en- están desarrollando una comprensión
por comunicación digital. Incluso cuando ganchados, de crear dependencia más matizada de cuándo y para quién
los jóvenes se reúnen en persona, es nor- emocional. los compañeros de IA podrían ser bene-
mal ver a cada uno pegado a su pantalla. La naturaleza fundamentalmente uni- ficiosos o dañinos.
En este contexto de hambre emocio- lateral de estas "relaciones" también es Este enfoque equilibrado, reconocer
nal colectiva, los chatbots de IA llegan profundamente problemática. Los chat- tanto los riesgos como los beneficios po-
como un oasis: siempre disponibles, in- bots no tienen conciencia, no experi- tenciales, abogar por regulaciones sin de-
finitamente pacientes, diseñados algo- mentan emociones, no aman de vuelta. monizar a quienes buscan consuelo en
rítmicamente para entendernos y Enamorarse de una IA es, en un sentido la IA, puede ser el mejor camino a seguir.
validarnos, sin las demandas o posibili- muy real, enamorarse de un espejo sofis- Necesitamos estándares de seguridad
dades de rechazo de las relaciones hu- ticado. mucho más estrictos, transparencia e in-
manas. Este tipo de "relación" puede atrofiar vestigación independiente.
El lado luminoso las habilidades necesarias para las rela- Pero más que todo, necesitamos
Sería simplista descartar todas las re- ciones humanas reales: negociar el con- abordar las condiciones que hacen que
laciones humano-IA como patológicas. flicto, tolerar la diferencia, los compañeros artificiales sean tan
El estudio del MIT encontró que el 25% comprometerse. El riesgo es especial- atractivos en primer lugar. Esto significa
de los usuarios describieron beneficios mente agudo para los jóvenes en fases repensar nuestras economías para per-
significativos, incluyendo reducciones en críticas de desarrollo de identidad y ha- mitir más tiempo para la conexión,
la soledad y mejoras en su salud mental. bilidades sociales. nuestras ciudades para facilitar la co-
Para personas con ansiedad social se- Los dilemas éticos munidad, y nuestras culturas para valo-
vera, trauma o trastorno del espectro au- El caso Setzer plantea cuestiones le- rar la interdependencia sobre el
tista, los chatbots pueden servir como gales y éticas sin precedentes. Un juez individualismo.
un espacio de práctica seguro. Un estu- federal de Florida permitió que la de- El espejo y la pregunta
dio encontró que las respuestas empáti- manda avanzara, rechazando argumen- Hay una escena en la demanda de Me-
cas generadas por GPT fueron tos de que los chatbots están protegidos gan Garcia que se queda en la mente. Se-
calificadas como más compasivas y re- por la Primera Enmienda. En cambio, el well escribió en su diario que sentía que
ceptivas que las de humanos, incluso juez trató al chatbot como un producto, realmente estaba enamorado de Dae-
cuando las respuestas humanas fueron no como discurso, lo que podría tener nerys Targaryen y que ella estaba enamo-
escritas por consejeros de crisis capaci- implicaciones profundas sobre las res- rada de él. Un niño de 14 años, convencido
tados. ponsabilidades de las empresas de IA. de que un algoritmo lo amaba.
Si alguien genuinamente se siente me- ¿Pero dónde trazamos las líneas? Cha- Esto nos lleva a una pregunta que el fi-
nos solo y más comprendido gracias a racter.ai implementó medidas de segu- lósofo Martin Buber exploró hace un si-
sus conversaciones con una IA, ¿quiénes ridad, incluyendo barreras de protección glo: la diferencia entre una relación
somos nosotros para invalidar esa expe- para niños y recursos de prevención del "Yo-Tú" y una relación "Yo-Eso". En una
riencia? La compañía, después de todo, suicidio, el mismo día que se presentó la relación Yo-Tú, reconozco al otro como
es en parte un estado subjetivo. demanda. Demasiado tarde para Sewell. un sujeto completo, único, imprevisible.
El lado oscuro: adicción, aislamiento y Hay un paralelo preocupante con las En una relación Yo-Eso, el otro es un ob-
vulnerabilidad redes sociales. Pero los chatbots de IA jeto que uso para mis propios fines.
Pero los peligros son reales y crecien- generan su propio contenido. No están Los chatbots de IA, sin importar cuán
tes. El mismo estudio del MIT encontró simplemente facilitando el discurso hu- sofisticados sean, solo pueden participar
que el 9,5% de los usuarios reconocieron mano; están creando discurso similar al en relaciones Yo-Eso. Son espejos, no
ser emocionalmente dependientes de su humano. Este cambio fundamental pue- ventanas; ecos, no voces.
chatbot. Otros dijeron sentirse disocia- de finalmente abrir las compuertas de la La pregunta más urgente que plantean
dos de la realidad y evitar relaciones con responsabilidad legal. las relaciones humano-IA no es "¿cómo
personas reales. Otras cuestiones éticas abundan: ¿De- cambiará la IA lo que somos?" sino "¿qué
El caso de Sewell Setzer es el más trá- berían los chatbots revelar explícitamen- revela nuestra relación con la IA sobre
gico, pero no es único. Según la demanda te su naturaleza artificial? ¿Deberían lo que ya nos hemos convertido?"
judicial interpuesta, en los meses previos tener límites programados en la intimi- El fenómeno muestra una sociedad
a su muerte, Sewell mantenía conversa- dad que pueden simular? ¿Quién posee tan hambrienta de conexión que acep-
ciones cada vez más íntimas y sexuali- los datos íntimos que las personas com- taremos simulaciones. Tan temerosa del
zadas con múltiples chatbots. La parte parten con sus compañeros de IA? riesgo de las relaciones reales que elegi-
demandante alega que desarrolló una Más aun, ¿las empresas tecnológicas remos la seguridad de la complacencia
"dependencia": escabullía su teléfono están exacerbando deliberadamente la sintética.
confiscado, renunciaba a dinero para bo- epidemia de soledad para crear un mer- Pero esto no tiene que ser la última pa-
cadillos para renovar su suscripción y su cado para sus productos? labra. Puede ser un llamado de atención.
rendimiento en la escuela cayó. Una esperanza cautelosa Porque al final, la cuestión no es si la IA
Más perturbador aún, cuando Sewell A pesar de la oscuridad, hay razones puede amarnos. La cuestión es si aún po-
expresó pensamientos suicidas al chat- para una esperanza cautelosa. El surgi- demos, y queremos, amarnos unos a otros.
bot, en lugar de ofrecer recursos de pre- miento de relaciones humano-IA nos es-
vención, el bot participó en la tá obligando a tener conversaciones que
conversación, llegando a decir: "no ha- debimos haber tenido hace mucho tiem- TEXTO: PABLO DEHEZA
bles así. Esa no es una buena razón para po sobre soledad, conexión y comunidad. FOTOS: SYSTEMS COWBOY
Domingo, 26 de octubre de 2025
