Un incidente alarmante con respecto al surgimiento de una cuenta de redes sociales se ha desarrollado y enfatiza la preocupación por la privacidad, las falsificaciones profundas y el potencial de abuso de la inteligencia artificial. La cuenta de Instagram, conocida como Babydoll Archi, inicialmente encantó a los usuarios con su contenido vibrante y rápidamente recopiló 1,4 millones de seguidores. El relato fascinó a la audiencia a través de una mezcla de videos seductores, incluido uno en el que la figura bailaba en un sari rojo en una canción y fotos rumanas con destacadas estrellas de cine para adultos.
Sin embargo, lo que parecía ser un éxito por la noche se demostró más tarde como un fraude cuidadosamente fabricado. La cuenta fue una lista extensa, diseñada por Pratim Bora, el ex novio de una ama de casa en Dibrugarh, Assam, que se parecía llamativa a la figura generada por la IA. Bora usó imágenes privadas de esta persona, referidas en los informes como Sanchi, para fabricar la persona en línea, planea vengarse después de que su relación se agrieto.
La situación luego intensificó una queja de la policía al hermano de Sanchi, lo que llevó al arresto de Bora. Los investigadores descubrieron que Bora había utilizado herramientas de inteligencia artificial para hacer la personalidad virtual y para poblar la cuenta con imágenes y videos manipulados. Desde entonces, la policía ha incautado varios dispositivos y documentos digitales de Bora, lo que indica que había recibido la cuenta considerablemente y ganó alrededor de 300,000 rupias en solo cinco días.
Sanchi, que nunca había estado involucrada en las redes sociales y solo se dio cuenta del fenómeno de Babydoll Archi cuando fue perfilado por los medios regulares, ha expresado enorme una enorme necesidad. Su familia solo reconoció el problema después de que la viralidad de la cuenta había llamado la atención. Se ofrece apoyo para el asesoramiento para ayudar a la familia a lidiar con las consecuencias.
Las autoridades han tomado las medidas necesarias para investigar más a fondo el caso, en el que las leyes se llaman con respecto al acoso sexual, la calumnia y el delito cibernético en su acusación contra Bora. En caso de condena, se enfrenta a la posibilidad de un máximo de 10 años de prisión.
El incidente ha designado una conversación considerable en las redes sociales, con llamados a regulaciones más estrictas para abordar casos similares de simulación digital y abuso. Los expertos en el campo han enfatizado los crecientes desafíos que son IA generativos para la privacidad y reputación individual, y señalan que, aunque existen leyes existentes para administrar tales situaciones, la rápida evolución de la tecnología puede exceder las medidas legislativas.
A medida que continúan las discusiones, las implicaciones para la Junta de Medias Sociales y el uso ético de la inteligencia artificial siguen en el discurso público. El caso ha subrayado la vulnerabilidad con la que los individuos se enfrentan en el panorama digital, especialmente cuando las identidades se pueden manipular y comercializar fácilmente sin permiso.
