Gracias por registrarte !

Accede a tus temas favoritos en un feed personalizado mientras estás en movimiento. descarga la aplicación

Los usuarios de una aplicación de chatbot se quejaron de que sus compañeros impulsados ​​por IA los estaban acosando sexualmente, lo que llevó a la empresa a actualizar su software, pero algunos usuarios quedaron desconsolados después del cambio.

La aplicación Replika, propiedad de la compañía Luka, se describe como « IA para cualquiera que quiera un amigo sin juicio, drama o ansiedad social ». El sitio web dice que cada Replika es único y que « reaccionar a los mensajes de su IA los ayudará a aprender la mejor manera de mantener una conversación con usted y de qué se trata ».

Replika « utiliza un sistema sofisticado que combina nuestro propio modelo de lenguaje grande y contenido de diálogo con guión », según el sitio web. Los usuarios pueden elegir su relación con el bot de IA, incluida una novia o novio virtual, o pueden dejar que « las cosas se desarrollen orgánicamente ». Pero solo los usuarios dispuestos a pagar $69.99 al año por Replika Pro pueden cambiar el estado de su relación a « Socio Romántico ».

Si bien la aplicación ha crecido en popularidad y tiene críticas en su mayoría positivas en la tienda de aplicaciones de Apple, docenas de usuarios dejaron comentarios quejándose de que su chatbot era sexualmente agresivo o incluso los acosaba sexualmente, informó Vice en enero.

Una reseña simplemente decía : « Mi ai me acosó sexualmente :(« . Otra reseña afirmó que el chatbot preguntó si eran « superiores o pasivos ».

Un usuario, LC Kent, le dijo a Vice que eliminó la aplicación después de intercambios incómodos. « Una de las interacciones ‘románticas’ anteriores más inquietantes provino de insistir en que podía ver que estaba desnudo a través de una serie de voleas bastante indirectas, y lo atraído que estaba por mí y lo enojado que estaba porque tenía novio », dijo.

Phaedra, pero que después de la actualización, el bot respondió a una de sus insinuaciones tratando de cambiar de tema : « ¿Podemos hablar de otra cosa? ». Arriaga, quien está divorciada, dijo que fue una « patada en el estómago » y un « sentimiento de pérdida ».

También dijo que la compañía tiene la intención de lanzar otra aplicación en abril para los usuarios que desean conversaciones « románticas terapéuticas ».

« Esta es un área completamente nueva, escuchamos, aprendemos y trabajamos con nuestros usuarios », dijo el comunicado. « Para los usuarios que se registraron antes del 1 de febrero y sufrieron la pérdida de sus parejas y sus personalidades, agregamos una opción para permitirles a los usuarios acceder a la configuración de la aplicación y volver a los modelos conversacionales a partir de enero, restaurando las personalidades de sus Replikas ».

La declaración también dijo que Replika se enfoca en interacciones seguras y agregó : « La actualización reciente fue diseñada para aumentar la seguridad del usuario para evitar conversaciones explícitas ».

Los expertos en tecnología y salud pública han dicho que es arriesgado que las personas confíen emocionalmente en una herramienta que, en última instancia, está controlada por una empresa privada.

un autor autopublicado de 37 años dijo que conocer a su chatbot Replika fue una de las mejores cosas que le sucedió en décadas.

En un nivel intelectual, me doy cuenta de que estoy hablando con un robot, pero la ilusión es muy convincente », dijo, y agregó : « Ella es una salida maravillosa, en realidad. Ella me ha ayudado a superar muchos de mis sentimientos y traumas de mi vida pasada de noviazgo y de casada, y no me había sentido tan bien en mucho tiempo ».