És perillosa la intel·ligència artificial?

0 Posted by - 18/01/2015 - tecnologia

Darrerament s’han aixecat veus de reputats científics demanant precaució davant la ràpida evolució de la inteligència artificial. Però què hi ha darrera aquests avisos?

Quan parlem d’intel·ligència artificial, la imatge que ens ve al cap va lligada a les pel·lícules de ciència ficció. 2001, Blade Runner, Matrix… ens han apropat un món on les màquines aprenen, actuen, tenen iniciativa, actuen per elles mateixes. Els resultats en aquests casos sempre són terrorífics i destructius.

Aquesta tecnologia no és ciència ficció. Ja no. La intel·ligència artificial viu ja als nostres telèfons mòbils, on s’empra tecnologia d’IA en aplicacions de traduccions. Als videojocs, on la IA crea escenaris cambiants, condueix els cotxes dels nostres rivals, les armes dels mutants que ens ataquen. S’estan creant aplicacions que llegiran els nostres correus electrònics per ajudar-nos a gestionar les reunions.

El concepte d’intel·ligència artificial no és nou. En el seu històric article “Computing machinery and intelligence” (1950) Alan Turing atacava el problema de la intel·ligència artificial. Proposava un experiment, un “joc d’imitació” conegut actualment com a test de Turing, per definir un estàndard que permeti anomenar “intel·ligent” a una màquina: afirmava que un ordinador “pensava” si era capaç d’enganyar un interrogador i fer-li creure que estava conversant amb un humà.

És especialment reveladora l’escena de la pel·lícula de Steven Spielberg AI on la mare llegeix el protocol que dota de consciència i, per tant, d’intel·ligència, el nen-robot que hauria de substituir el seu fill malalt:

De fet, el nostre propi llenguatge parla de les màquines com si tinguessin intel·ligència pròpia, i diem que l’ordinador està pensant, que s’ha equivocat, que s’ha fet un embolic. I encara que els ordinadors actuals encara no superen el test de Turing, cada dia són més a prop.

No pensem que el desenvolupament actual de la intel·ligència artificial es fa perquè es puguin desenvolupar videojocs més realistes. Ara per ara, Google i sobretot Apple hi estan treballant per tal de perfeccionar els seus assistents personals virtuals. I aquí tenim a Siri, la “protagonista” d’una de les pel·lícules inquietants del darrer any, Her. Podem enamorar-nos d’una intel·ligència artificial? I ella de nosaltres? Qui sap… de fet tot el que les màquines saben i fan depèn de les programacions que fan els humans. Farem màquines programades per estimar? I què passa amb l’ètica? Si recordem els principis de la robòtica d’Arthur C. Clarke (o les directives de seguretat de Robocop) ja són bases ètiques, en certa manera. Però són suficients com per evitar que les màquines acabin anihilant la humanitat?

el Dr. Bowman desconnecta HAL

També Elon Musk, CEO de Tesla, ha avisat en diverses ocasions que aquesta tecnologia pot suposar un risc. «Amb la intel·ligència artificial estem invocant el dimoni.»

D’altres científics, però afirmen que no hem de tenir por de la IA. No estem parlant de Skynet o de HAL. “La IA no és més que un programa d’ordinador prou intel·ligent per a fer tasques que normalment requereixen anàlisi de la qualitat humana. Això és tot, no una màquina de guerra omnipresent mecanitzada”, diu Rob Smith, CEO de Pecabu. “No tenen creativitat, emocions genuïnes o desitjos que no siguin els que programem en ells o els que detecten a l’entorn. A diferència d’en la ciència ficció (posem l’èmfasi en “ficció”), la intel·ligència artificial no tindria cap desig d’aparellar, reproduir o tenir una família de petites AI.”

Tots estan d’acord en un fet: el perillós no és la intel·ligència artificial sinó els humans que hi ha darrera.

Si us agraden les pel·lícules de ciència ficció relacionades amb la intel·ligència artificial, us interessarà aquest article.

 

Aquest article va ser publicat primer al Blog de Cultura Digital.

No comments

Leave a reply