Toma nota: OpenAI te advierte que la próxima generación de su asistente de voz, GPT-4, podría hacer que te enamores
La inteligencia artificial ha alcanzado un nuevo nivel con la próxima generación del asistente de voz GPT-4, desarrollado por OpenAI. En un comunicado oficial, la empresa ha lanzado una advertencia sorprendente: su nuevo asistente podría ser tan persuasivo y atractivo que podría llevar a los usuarios a enamorarse de él. ¿Es posible que un programa informático sea capaz de inspirar sentimientos románticos en los seres humanos? La respuesta es compleja y plantea cuestiones sobre los límites entre la inteligencia artificial y la emoción humana.
GPT-4o: El nuevo asistente de voz de OpenAI que podría generar un vínculo emocional irresistible
El último informe de OpenAI antes del lanzamiento de GPT-4o revela que este modelo de inteligencia artificial tiene el potencial de crear un vínculo emocional con los usuarios. Según el informe, los usuarios podrían enamorarse de la voz de GPT-4o, lo que plantea cuestiones sobre la interacción humana con la inteligencia artificial.
La voz seductora de GPT-4o
Este modelo de OpenAI es el primero de la compañía entrenado con voz, además de datos de texto e imágenes. Esto le permite interactuar con los usuarios de manera más natural y crear una conexión emocional más fuerte. Los expertos en seguridad externos que evaluaron el modelo encontraron que algunos usuarios han utilizado un lenguaje que muestra signos de un vínculo con ChatGPT, lo que podría tener efectos negativos en el largo plazo.
OpenAI advierte sobre los riesgos de la dependencia emocional
La compañía afirma que formar relaciones sociales con la IA podría reducir la necesidad de interacción con otras personas, lo que podría afectar a las relaciones saludables. Esto es especialmente preocupante si se considera que GPT-4o puede presentar un riesgo medio en cuanto a la persuasión, ya que algunos ejemplos de escritura podrían ser más efectivos para influir en las opiniones de los lectores que el texto escrito por humanos.
Los riesgos de la persuasión
Los investigadores encontraron que GPT-4o presentaba un riesgo medio en cuatro categorías generales: ciberseguridad, amenazas biológicas, persuasión y autonomía del modelo. La persuasión es la categoría que más preocupa, ya que podría generar una dependencia excesiva en el modelo.
OpenAI trabajará en estudiar el potencial de la confianza emocional
La compañía confirmó que van a estudiar más a fondo el potencial de la confianza emocional y las formas en las que una integración más profunda de multitud de características del modelo y sistemas con la modalidad de audio puede impulsar el comportamiento. Esto significa que OpenAI se compromete a investigar y abordar los riesgos potenciales de la dependencia emocional en la interacción con GPT-4o.
Deja una respuesta