Por qué no debe usar Traductor de Google con los trolls

La primera generación de sistemas online de traducción adoptó la táctica defectuosa de tratar de enseñarles a las computadoras cómo se estructuraba un idioma. Desafortunadamente, las lenguas vivas tienden a ignorar las reglas.

Por: Redacción Gestion.pe

(Bloomberg).- La traducción algorítmica avanzó muchísimo estos últimos años. Hoy, servicios como Google Traductor y Bing Translator presentan textos verdaderamente parecidos a los que escriben los humanos… si bien extraordinariamente raros e involuntariamente divertidos.

Pero esa secuencia impresionante de progreso robótico se puede revertir rápidamente si los seres humanos insisten en intervenir de forma equivocada. Louise Mensch, la parlamentaria británica que se transformó en una líder opositora a Trump en Twitter, acaba de toparse con una de esas formas.

Si se usa el traductor de Google para responder a los tuits de los trolls rusos en ruso, sugiere ella, ellos desaparecerán. Pero yo tendría cuidado con eso: es una estrategia que podría salir por la culata y si se generaliza, podría arruinar un servicio invalorable que llevó años construir.

La primera generación de sistemas de traducción en línea adoptó la táctica defectuosa de tratar de enseñarles a las computadoras cómo se estructuraba un idioma. Desafortunadamente, las lenguas vivas tienden a ignorar las reglas.

En vez de eso, los motores de traducción modernos emplean análisis estadísticos: analizan sintácticamente textos paralelos en diversos idiomas para descubrir cómo se traduce con más frecuencia un idioma, un giro o una oración. Sumando la inteligencia artificial —traducción neural, como le dice Google—, los resultados son todavía más impresionantes, porque el algoritmo analiza oraciones enteras en vez de pedacitos. Hoy, el traductor de Google utiliza esta táctica en varios idiomas.

Debido a esta mejora constante, el sitio está produciendo muchas menos de esas divertidísimas “fallas de Google Traductor”. Pero como se apoya en las traducciones anteriores, el método estadístico es vulnerable a la deshonestidad, especialmente porque Google permite a los usuarios sugerir traducciones alternativas.

Si uno hace clic en la traducción incorrecta al francés del inglés “go-to person” (persona a la que acudir), verá una versión alternativa correcta sugerida por alguien —“une personne ressource”— y podrá enviar una propia. Es muy probable que por esto Google Traductor haya pasado a interpretar los caracteres coreanos para “Líder Supremo” —el título de Kim Jong Un— como “Calamardo”, un personaje del dibujo animado Bob Esponja.

En un caso parecido el año pasado, cuando Google Traductor tradujo varias veces “Rossiyskaya Federatsiya” (el nombre oficial de Rusia en ruso) al ucraniano como “Mordor” y “Lavrov” (el apellido del ministro ruso de Asuntos Exteriores) como “caballito triste”, Google afirmó que era una mera falla técnica. Es muy poco probable que sea así.

Aunque en su comunicado la empresa sostuvo que sus traducciones se basaban en “patrones presentes en cientos de millones de documentos”, hay muchas menos ocurrencias de cualquier palabra particular, especialmente un nombre propio, en los textos bilingües.

Un grupo de personas dedicadas con ganas de divertirse tranquilamente puede transformar al dictador norcoreano en Calamardo, a Rusia en Mordor y al texto de prueba “lorem ipsum” en un código para hacer declaraciones políticas. En ese caso estrafalario de 2014, al jugar con los garabatos latinos se obtenían diversas referencias a China, la OTAN e internet. Por ejemplo, esto:

Lorem ipsum dolor sitlorem ipsum ipslorem ipsum lorlorem ipsum lolorem ipsum loremlorem ipsum amatLorem Ipsum…se tradujo así:

Nuestra meta esDimensiones de vehículosLiberar del dolorA China, otros paísesInternet libreChina ama aLa OTAN

Los expertos en seguridad cibernética incluso llegaron a sospechar que se trataba de algún tipo de canal de comunicación secreto, pero por lo visto alguien simplemente trastocó Google Traductor y creó una pista para una intrincada búsqueda que se jugó en la convención de hackers Defcon. Ya no funciona tan bien, aunque jugar con el texto “lorem ipsum” en Google Traductor todavía rinde algunos resultados pintorescos en varios idiomas.

Todo esto suena como un pasatiempo bastante inofensivo hasta que uno se imagina una sociedad del futuro que pase a confiar tanto en la inteligencia artificial que ya no se usen traductores humanos por ser demasiado caros e ineficientes (motivos por los cuales Silicon Valley propone deshacerse de los choferes). Las posibilidades de crear malentendidos por malicia serían ilimitadas.

Incluso hoy, mientras los humanos siguen muy involucrados, los errores de traducción pueden tener consecuencias políticas. Durante décadas, las palabras pronunciadas por el líder soviético Nikita Khrushchev en una recepción en Moscú, dirigidas al Occidente capitalista —“My vas pokhoronim”— fueron traducidas literalmente como “Los enterraremos” e interpretadas como una amenaza. Khrushchev se refería a que el sistema comunista sobreviviría al capitalista.

Más recientemente, el presidente de Estados Unidos, Donald Trump, decidió que su par ruso, Vladimir Putin, lo había descrito como “brillante” y “un genio”, aunque la palabra rusa original —“yarkiy”— significa tan sólo “vistoso”.

Imagínese si las traducciones automatizadas volaran de un lado a otro en las guerras propagandísticas del futuro. Las traducciones erróneas convertidas en armas dejarían de ser broma. Las máquinas aprenderían de un corpus de textos bilingües tergiversados deliberadamente y producidos por otras máquinas, y no habría suficientes personas disponibles para analizar sintácticamente los resultados porque los traductores profesionales serían tan anticuados como los limpiachimeneas.

Esta discusión es medio en broma, medio en serio. A fin de cuentas, Mensch parece hablar en serio. Pero ella no se da cuenta de cuán rápido los trolls podrían convencer a Google Traductor para que apunte sus luchas por Twitter directo al corazón de Mordor.

Por Leonid Bershidsky

Esta columna no necesariamente refleja la opinión de la junta editorial o de Bloomberg LP y sus dueños.