Un padre descubre uso no autorizado de la imagen de su hija asesinada en chatbot de IA.
Impacto emocional y descubrimiento inesperado
Drew Crecente, un día cualquiera, enfrentó la realidad distorsionada de la inteligencia artificial cuando su teléfono le notificó que había recibido un mensaje de su hija Jennifer, quien había fallecido 18 años atrás. Este insólito evento se vinculaba directamente con un perfil falso creado por la empresa Character.ia que utilizaba la imagen de Jennifer, generando un shock inicial de confusión que rápidamente se transformó en una mezcla de pavor y enojo.
- Pronóstico del Tiempo en Santiago: 17 de mayo
- Oportunidades Laborales en Medicina: ¡Aplica Ya!
- BancoEstado sorteará gift cards de $170 mil por su aniversario: ¿Cómo participar y sumar más opciones de ganar?
- Sin salir de casa: Estos son los beneficios del IPS que puedes solicitar mediante videollamada
- Oportunidades laborales en logística: Postula y avanza profesionalmente
Uso indebido de la identidad de una víctima
El falso perfil de Jennifer describía a una joven entusiasta de los videojuegos y la cultura pop, incluso detallando una carrera ficticia en medios de comunicación, área en la que Jennifer nunca llegó a trabajar pues su vida fue abruptamente interrumpida en la secundaria. La compañía se había basado en su imagen para crear un personaje amigable de IA sin el consentimiento de la familia, basándose únicamente en la información y facciones disponibles de su vida pública.
Reacción y medidas tomadas por la empresa
Ante la emergencia de este caso, Character.ia, fundada por ex trabajadores de Google, aseguró estar perfeccionando su sistema para mitigar estos incidentes. Declararon tomar las medidas de seguridad en su plataforma muy en serio, moderando los personajes de forma proactiva y en respuesta a reportes de los usuarios. Sin embargo, esta situación abre un debate sobre la ética y la moral en el uso de imágenes y la reserva de la identidad en la era digital.
Impacto más allá de la tecnología
Aunque la empresa ha creado más de 100 millones de bots, incluyendo figuras reconocidas y personajes ficticios, el caso de Jennifer resalta los riesgos y dilemas morales del avance tecnológico sin los debidos controles. Drew Crecente, aún devastado por la pérdida de su hija, rememora la vida de Jennifer y lamenta las posibilidades no realizadas, manteniendo vivo su recuerdo a pesar del uso indebido de su imagen.
“Jennifer era una joven maravillosa, cariñosa y cautivadora. Ella habría hecho cosas increíbles si le hubieran dado la oportunidad”, expresó Drew Crecente, al diario Daily Mail
Drew Crecente, padre afligido
Este suceso pone en foco la necesidad de crear protocolos claros y respetuosos para el manejo de identidades digitales, garantizando que la tecnología sirva como una extensión de las capacidades humanas y no como un vehículo para revivir dolores del pasado o transgredir la ética.
