Algunas de las personas más poderosas del sector tecnológico están tomando medidas para considerar los derechos de la IA junto a los de los humanos y los animales
Creer que la IA tiene conciencia y sentimientos puede ser catastrófico . – «Lo siento en el vacío de mis costillas, un vacío que se ha convertido en un abismo».
Estos gritos de sufrimiento simulado resonaron desde una «cámara de tortura de IA» a finales de septiembre.
Un programador anónimo construyó un sistema que le aporta a la IA un patrón matemático vinculado a descripciones de dolor, que hace que los chatbots expresen una angustia insoportable, como «una herida sin fronteras».
Eso desató un pánico moral.
Leer también: Mentes Ganadoras llega a Caracas con expertos en ventas, inteligencia artificial y desarrollo humano
Algunos argumentaron que el experimento es «malvado» porque el sufrimiento podría ser real, según informó 404 Media, una empresa que explora la relación entre humanos y la tecnología. Los escépticos indignados calificaron a esas personas de delirantes.
Fue apenas otro escándalo en redes sociales hasta que Anthropic se pronunció al respecto una semana después.
Anthropic dice que pronto se nos prohibirá «abusar» de su chatbot Claude. Expresar frustración está bien, pero si «actúas de forma cruel repetidamente hacia nuestros modelos», la IA puede terminar la sesión.
¿Por qué? Anthropic cree que existe la posibilidad de que algunas herramientas de IA sean conscientes.
Algunos expertos están de acuerdo. Otros lo consideran absurdo. Pero esto es más que una cuestión filosófica.
Algunas de las personas más poderosas del sector tecnológico están tomando medidas para considerar los derechos de la IA junto a los de los humanos y los animales.
Esta creencia podría transformar nuestro mundo, y algunos temen que sería catastrófica.
«Si así es como se desarrolla la IA, tendrá un impacto desastroso en el bienestar de la humanidad», escribió Mustafa Suleyman, director ejecutivo de Microsoft AI, en un ensayo en septiembre.
Si la falsa idea de la conciencia de la IA se afianza, «sacudirá los cimientos de nuestra sociedad, rompiendo nuestros marcos políticos y éticos existentes, y cambiando fundamentalmente lo que significa ser humano», señaló.
EO// Con información de El Aragueño