¿Cuál es la verdadera AMENAZA de la Inteligencia Artificial?

“No confíes en nadie, no confíes en nada”


Ese es el lema de Cassie Kozyrkov y que, aunque da algo de miedo, ella es la encargada de tomar decisiones importantes en el tratamiento de datos de google y con mucho conocimiento en inteligencia artificial. Cassie, desde el escenario de la Big Things Conference, quiso trasmitir todo lo contrario, hablando sobre cómo se deben construir sistemas de inteligencia artificial seguros para todo el mundo.

Kozyrkov habló con entusiasmo de las posibilidades que tiene la inteligencia artificial y cree no se le debe tener miedo a que la IA acabe funcionando mejor que los seres humanos.

Cualquier herramienta que no sea mejor que los humanos es una herramienta que no necesitamos“,Dijo Cassi Kozyrkov

Pero también, según ella, debemos ser conscientes de los riesgos que puede traer una inteligencia artificial mal entrenada, es decir, a las personas que estén detrás de sus algoritmos.


Esta inteligencia artificial MUESTRA lo que estás PENSANDO


1- Cómo entrenar correctamente una IA

El funcionamiento de una IA dependerá totalmente de las personas que estén detrás de ellas y de cómo han decidido programarla para que sea efectiva en su toma de decisiones, por ejemplo, si una IA debe analizar en una imagen si hay un gato o no, la IA deberá tomar la decisión de si realmente aparece en la imagen. Si por ejemplo en la imagen aparece un tigre, dependiendo de cómo este programada podrá identificarlo como un felino y meterlo dentro de la categoría de “gato”.

Por tanto, la respuesta correcta a como debe ser entrenada una inteligencia artificial dependerá de los propósitos para el que se haya construido el algoritmo.

2- La persona detrás de los algoritmos

El objetivo es subjetivo“, señala Kozyrkov.

El propósito para el que sirva el sistema dependerá de quién lo haya construido“, concluye.

Ella no se está refiriendo a los desarrolladores e ingenieros que deben programar como locos, sino al líder que se encarga de supervisar esos y equipos y de establecer los objetivos para los sistemas de inteligencia artificial.

El que toma las decisiones es la persona más importante en el proceso. Decide cuál es el propósito de la máquina y cómo se va a evaluar ese sistema“.

Por eso, según ella, la verdadera amenaza de la inteligencia artificial son las malas decisiones que pueda tomar la persona al mando de una IA.

3- Nunca confíes en el sistema. No confíes en ti. Ten siempre un plan B

Para ella, es evidente que algo va a fallar siempre y que se debe tener en cuenta que es imposible que un sistema inteligente sea creado para no tener errores

Un sistema inteligente que haya sido creado con ese tipo de mentalidad hace que puedan llegar a tener errores devastadores.

4- “Tenemos que aspirar a crear sistemas que representen lo mejor de nosotros”

Para evaluar un sistema de inteligencia artificial es necesario ponerlo a prueba, igual que se haría con un estudiante. Al examinar una IA, Kozyrkov advierte de que los buenos resultado no provienen de una simple memorización, que ocurre cuando se pone a prueba el sistema con el mismo conjunto de datos con el que ha sido entrenado.

Deja un comentario