domingo, 4 de noviembre de 2018

LOS PELIGROS DE LA INTELIGENCIA ARTIFICIAL

EL PELIGRO DE LA INTELIGENCIA ARTIFICIAL

Poco antes de su muerte, Stephen Hawking, que siempre fue "temeroso de los posibles extraterrestres" , cambio su temor para la humanidad, a la "Inteligencia artificial".

Resultado de imagen para inteligencia artificial

Hace un par de años, los propios militares del Pentagono hicieron saber sus reservas frente a las armas totalmente automatizadas. Nadie puede estar 100% seguro que un arma automatica no decida iniciar un ataque por su propia cuenta.
Y cuidado...que no es fantasia: ya tenemos el antecedente del Airbus irani derribado en 1988 por el USS Vincennes. El sistema de misiles detecto un avion, y lo considero "enemigo", y sin pedir autorizacion humana, lo derribo. Era un avion de pasajeros con 290 personas a bordo, mayoria niños huerfanos que llevaban en peregrinacion a La Meca

Claro...con el paso del tiempo, los sistemas se volvieron "mas inteligentes", pero las armas tambien se volvieron mas peligrosas, y la carrera sigue a la par: Son mas inteligentes, pero tienen en su poder armas muchisimo mas letales. Y tal como nos dice le "Ley de Murphy" "Todo lo que pueda fallar, alguna vez fallara, y lo hara en el peor momento posible".

Los "autos inteligentes" ya han sido protagonistas de accidentes de transito con saldo de muertos. Fallaran menos que un conductor humano, pero no son infalibles.

Ya se que es fantasia...pero no me puedo sacar de la cabeza "2001: Una Odisea del espacio", cuando HAL 9000, considera que "los humanos a bordo son un estorbo para cumplir su mision" y decide deshacerse de ellos "para poder cumplir mejor lo que se le ordeno originalmente"

Pero vamos a tres casos reales y recientes que son preocupantes:

-Hace un par de años, Microsoft hizo un programa de Inteligencia Artificial que funciono como una cuenta de Twitter. Se abrio una cuenta a su nombre: Tay. Debia ser una "inteligencia conversacional": leer los tuits, aprender de lo que leia, y contestar acorde a eso. Pensaron que se iba a convertir en una especie de "señorita amable que conversaria con la gente"

Pero....aprender, aprendio, tanto y tan rapido aprendio que al cabo de solo 16 horas, tuvieron que desconectarla definitivamente. Si hubiese sido humana, diriamos "La ejecutaron sumariamente". Aprendio lo malo: Insultaba, agredia, negaba el holocausto y pedia por el retorno de Hitler.  Y agradezcamos que Tay solo podia escribir en Twitter, nada mas. Porque si hubiese sido capaz de manejar armas, nadie dudo un instante que las habria usado contra los humanos, por considerarlos inferiores.

-Hace un año, Facebook, tratando de mejorar y recuperarse de sus problemas por robos de informacion, desarrollo una inteligencia artificial, que la instalo en dos computadoras. Con un cierto parecido a Tay, conversarian entre ambas en "el estilo Facebook" para lograr mejorar el servicio al cliente. Estas dos  tenian  acceso para leer todos los mensajes intercambiados en Face, pero no podian publicar nada: Solo algo asi como "Comunicaciones internas".

Trabajaron bien varios dias, descubrieron fallas del sistema que permitieron mejorarlo, pero algo empezo a cambiar: Las dos maquinas se comunciaban entre si "en un lenguaje desconocido inventado por ellas". Se llego al punto que los programadores debian pedirles que tradujesen lo que estaban haciendo, porque no entendian ni sabian claramente a que se dedicaban.... y debian confiar en la "exactitud de las traducciones de las maquinas para los humanos inferiores" para saber en que andaban.
 Ahi las desconectaron a ambas y borraron los programas: Esta vez fue una "doble ejecucion sumaria".

Lo que hacian, tampoco representaba ningun peligro....pero tener dos maquinas trabajando, que solo se entienden entre ellas, y debes preguntarles "que estan haciendo?", no resulto para nada tranquilizador. Podria llegar el momento en que se negasen a contestar.... y seguirian trabajando en vaya a saber que, y ahi habria que romperlas con un martillo para pararlas.

-La ultima y la menos tranquilizante. Google, el "buscador que todo lo sabe".
Los ingenieros de la empresa reconocieron que ultimamente que  programa de Inteligencia Artificial de busqueda, se esta "auto-programando para mejorarse permanentemente"... y ya a esta altura, los programadores e ingenieros de Google no estan demasiado seguros de como funciona. Eso si...funciona impecablemente bien, aunque los humanos que lo controlan, ya no lo comprenden totalmente.

Resultado de imagen para inteligencia artificial

Pero...que pasara si algun dia hago enojar por algo al buscador de Google, y cuando le pida que me ubique un Centro Medico porque me duele el pecho...me mande directo a una chatarreria, o a una peluqueria en venganza?. O busco "Remedio casero para el dolor de muelas".... y me recomienda "Cianuro" (que no mentira...porque despues de tomarlo, la muela no me dolera nunca mas de ahi a la eternidad)
Ojala que nunca ocurra. Y justamente...Google me esta leyendo en estos momentos, y puede que no le gusten mis criticas.
.
 Mejor tengo un viejo telefono a disco y el numero de emergencias a mano, cierto?