Cofundador de Google alerta sobre lado oscuro de la IA

El cofundador de Google, Sergey Brin, señaló los peligros potenciales de la Inteligencia Artificial (IA) en su carta anual para Alphabet. Dijo que si bien la tecnología está viviendo un “renacimiento”, hay riesgos a los cuales hay que atender lo antes posible.

De inicio Brin mencionó que Google surgió hace 20 años, cuando la investigación en redes neurales había sido abandonada, pero que gracias al trabajo de empresas de tecnología como Google ahora se puede entender de todo, desde analizar contenido en una fotografía, hasta descubrir exoplanetas.

El potencial de este gran avance en la tecnología, sin embargo, debe ser canalizado, pues siempre se corre el riesgo de una automatización total, así como de problemas de seguridad para los humanos. Para tratar este asunto, Brin propone más investigación en ética.

Brin considera que herramientas tan poderosas deben generar preguntas sobre nuevas responsabilidades. Hay que preguntarse cómo afectará el empleo en los diferentes sectores, bajo qué comandos actúan, hasta dónde es justo que estén involucrados, si es que existe la posibilidad de que manipulen a la gente, o simplemente, si la gente en general está a salvo.

Existen investigaciones serias al respecto de estos problemas, resuelve Brin:

“De las más notables, la de seguridad abarca un amplio rango de preocupaciones, desde los temores a una inteligencia ‘sentiente’ tipo ciencia ficción, hasta situaciones a corto plazo como validar la ejecución de los automóviles con piloto automático”.

El cofundador agregó que estas preocupaciones en cómo las tecnologías basadas en IA podrían robarse los trabajos humanos o podrían ser utilizados para manipular a la gente esparciendo noticias falsas o propaganda “son una discusión importante que se debe tener”.

Sin embargo, Brin termina anotando que mantiene el optimismo sobre la inteligencia artificial y la tecnología, pues podría resolver algunos de los grandes problemas del mundo. Concluye exhortando a todos a seguir adelante "con profunda responsabilidad, cuidado y humildad,” en camino al futuro.