¬ŅEs posible revelar las debilidades de la inteligencia artificial?

uno de los objetivos finales de la ia es crear una m√°quina que realmente entienda el lenguaje humano e interpreta el significado de pasajes complejos y matizados.

sin embargo, cualquiera que haya intentado tener una conversación con Siri sabrá que las computadoras todavía tienen un largo camino que recorrer para comprender verdaderamente el lenguaje humano.

para mejorar la comprensión del lenguaje, los sistemas informáticos deben entrenarse utilizando preguntas que puedan desafiar y comprender la complejidad total del lenguaje humano.

Los investigadores de la universidad de Maryland han descubierto como crear de manera confiable tales preguntas a través de una colaboración humano-computadora, con un conjunto de datos de más de 1,200 preguntas. Si bien las preguntas son sencillas de responder, el sistema podrá aprender mejor a dominar estas preguntas tendrá una mejor comprensión del lenguaje que cualquier otro sistema que exista en la actualidad.

“La mayor√≠a de los sistemas inform√°ticos que responden preguntas no explican por qu√© responden de la manera en que lo hacen, pero nuestro trabajo nos ayuda a ver lo que las computadoras realmente entienden”,

dijo Jordan Boyd-Graber, profesor asociado de ciencias de la computación en la UMD y autor principal del artículo

La mayoría del trabajo actual para mejorar los programas de preguntas y respuestas utilizan autores humanos o computadoras para generar preguntas. Cuando las preguntas escriben las preguntas, escriben preguntas formuladas, llenan los espacios en blanco o cometen errores, a veces generando tonterías.

Boyd-Graber y su equipo crearon una interfaz de que computadora que permite revelar lo que una computadora esta ‚Äúpensando‚ÄĚ cuando un escritor humano escribe una pregunta. El escritor puede editar su pregunta para explotar las debilidades de la computadora.

En la nueva interfaz, un autor humano escribe una pregunta mientras las suposiciones de la computadora aparecen en orden ordenado en la pantalla, y las palabras que llevaron a la computadora a hacer sus suposiciones resaltan.

Por ejemplo, si el autor escribe “¬ŅQu√© variaciones del compositor sobre un tema de Haydn se inspiraron en Karl Ferdinand Pohl?”¬†y el sistema responde correctamente “Johannes Brahms”, la interfaz resalta las palabras “Ferdinand Pohl” para mostrar que esta frase lo llev√≥ a la respuesta.

Usando esta informaci√≥n, el autor puede editar la pregunta y as√≠ complicarla a√ļn mas para que sea m√°s dif√≠cil a la computadora el dar una respuesta, sin alterar el significado de la pregunta.

“Durante tres o cuatro a√Īos, las personas han sido conscientes de que los sistemas inform√°ticos de preguntas y respuestas son muy fr√°giles y pueden ser enga√Īados muy f√°cilmente”,

dijo Shi Feng, un estudiante graduado de informática de la UMD y coautor del artículo.

“Pero este es el primer documento que conocemos que en realidad usa una m√°quina para ayudar a los humanos a romper el modelo en s√≠”.

humanos vs inteligencia artificial
humanos vs inteligencia artificial

los investigadores creen que estas preguntas servir√°n ya no solo como un nuevo conjunto de datos para que los inform√°ticos comprendan mejor donde falla el procesamiento del lenguaje natural, sino tambi√©n como un conjunto de datos de capacitaci√≥n para desarrollar algoritmos de aprendizaje autom√°tico mejorados. Las preguntas revelaron seis fen√≥menos ling√ľ√≠sticos diferentes que constantemente topan con las computadora destacando el parafraseo y las habilidades de razonamiento.

“Los humanos pueden generalizar m√°s y ver conexiones m√°s profundas”

dijo Boyd-Graber.

“No tienen la memoria ilimitada de las computadoras, pero a√ļn tienen la ventaja de poder ver el bosque en busca de los √°rboles‚ÄĚ

Seg√ļn Boyd todav√≠a queda un largo camino que recorrer para que esto suceda, pero este trabajo proporciona una nueva herramienta emocionante para ayudar a los cient√≠ficos inform√°ticos a lograr ese objetivo.

Deja un comentario