Es inquietante pensar que un día la inteligencia artificial tome conciencia de sí misma y decida por sí misma
Cada día se ofrecen nuevas posibilidades y avances en torno a la IA, la inteligencia artificial, pero también cada día se ponen sobre la mesa dudas, problemas y posibles controversias que plantea el uso de esta tecnología. El gran escritor Isaac Asimov previno muchas de las cuestiones que hoy se cuestionan sobre la IA en su cuento ‘Razón’, escrito en 1941
El Premio Nobel de Literatura chino Mo Yan reconoció hace unos días que había utilizado el sistema ‘Chat GPT’ para escribir un discurso en el homenaje a otro escritor; metió en el sistema unas cuantas palabras clave y la máquina le elaboró un texto que la audiencia aplaudió con entusiasmo. Además, puede pedirse a la máquina que el discurso (examen, trabajo, declaración, artículo, tesis, libro) muestre un tono agresivo o amable, erudito o popular, serio o divertido… El resultado es casi imposible de diferenciar del escrito por una persona.
Es solo una de las muchísimas posibilidades que ofrece la Inteligencia Artificial. Por ejemplo, últimamente se han ‘grabado’ canciones con la voz de cantantes muertos (Freddie Mercury, Kurt Cobain), aunque en este caso cualquier experto podrá echar en falta matices tan humanos como las inflexiones de voz o las modulaciones propias de cada artista, es decir, se nota la ausencia de eso que se llama pasión. Igualmente, esta tecnología permite elaborar vídeos, fotos o audios falsos verdaderamente difíciles de desenmascarar (en unos años será imposible diferenciar lo auténtico de lo fraudulento); y con estos trabajitos se podrían inundar correos electrónicos y redes sociales, de manera que el muñidor conseguiría expandir el bulo, la difamación, la duda, la confusión. Piénsese qué podría pasar con la puesta en práctica de un plan de este tipo en una campaña electora o de desprestigio o en la bolsa …
Y la cosa puede empeorar si se permite que sean las propias máquinas las que tomen decisiones. Por ejemplo un dron bélico, un arma totalmente autónoma que toma la opción de disparar porque calcula que el objetivo a conseguir justifica los daños colaterales por muchas bajas de civiles que se produzcan.
El gran escritor Isaac Asimov ya reflexionó sobre el asunto y problemática de la inteligencia artificial (aunque no le llamara así) en su cuento ‘Razón’, escrito en 1941 e incluido en su afamada obra ‘Yo robot’. La historia en pocas palabras es: Dos ingenieros están al mando de una estación espacial con la ayuda de un robot súper inteligente y otros que están conectados a éste. La misión es recibir un potentísimo flujo solar (procedente de una erupción) y enviarlo a una estación receptora en la Tierra, donde se almacenaría una cantidad ingente de energía; el problema es que todo debe hacerse con absoluta precisión, puesto que una milésima de micra de error en el ángulo de desvío o cualquier descoordinación causarían una catástrofe con miles de muertos. Cuando se acerca el momento clave, el robot jefe (llamado QT 1) encierra a los humanos y no hace caso a sus órdenes de que los libere para tomar parte en la operación. QT 1 y sus ayudantes llevan a cabo la maniobra con total perfección. Entonces liberan a los dos ingenieros y les explican que el factor humano incluye la posibilidad de error, mientras que la inteligencia del robot no concibe el fallo, como ha demostrado. Por eso dejaron al margen a los hombres, porque con sus dudas, sus opiniones o su moralidad podrían poner en peligro la misión, así que QT 1 decidió que era aceptable desobedecer al hombre y asumir él mismo el poder de decisión. La narración tiene mucha más miga, muchísima más, como todas las que escribió Asimov sobre robots con las tres ‘Leyes de la robótica’ impresas, esas que el propio autor inventó.
Lo que se deduce del cuento que ideó el escritor ruso-estadounidense hace más de ochenta años es que la inteligencia artificial puede llegar a decidir por sí misma, puede estimar qué es lo mejor para la mayoría y que y quién puede ser sacrificable, es decir, sin frenos morales su objetivo justifica los medios que utilice para lograrlo. De momento la cosa no está tan a avanzada, ¿o sí? Por otro lado, seguro que la IA traerá también aplicaciones beneficiosas, seguro.
En todo caso, al paso que va, la inteligencia artificial puede llegar a tomar conciencia de sí misma (“Existo puesto que pienso”, dice QT 1), lo que plantea escenarios absolutamente imprevisibles. E inquietantes.
CARLOS DEL RIEGO
No hay comentarios:
Publicar un comentario