Genís Roca

Presidente de la Fundació.cat

Mejorando cosas

“Los algoritmos tienden a aplanar las culturas»

Genís Roca recuerda que los sesgos de la I.A. son consecuencia de una carga de datos “parcial”
0
3457

En el corazón del Barri Gòtic de Barcelona, a escasos pasos de la catedral, nos encontramos con una personalidad muy destacada en el campo de la innovación y las TIC. Presidiendo la fundació.cat desde enero de 2021, Genís Roca nos explica su propósito en esta entrevista.

Usted es uno de los divulgadores más conocidos en Catalunya en el ámbito de la sociedad de la información. Sin embargo, su currículo académico dice que no estudió informática…

Yo estudié Arqueología, especializándome en el Paleolítico. Trabajé en equipos como el de Eudald Carbonell y de otros durante algunos años. Ahí comenzábamos a utilizar modelos matemáticos para procesar el trabajo de campo. Cualquier objeto que apareciera en una excavación tenía una longitud, una anchura, un espesor, una orientación, una pendiente, un tipo de materia prima… Siempre había unas 20 o 30 variables vinculadas. Cuando vimos un ordenador por primera vez, dijimos: “¡guau!” y nos lanzamos a por él.

Cuando vimos un ordenador por primera vez, dijimos: “¡guau!” y nos lanzamos a por él

¿Todos los arqueólogos podían decir lo mismo?

Con todos los respetos digo que los especialistas en el imperio romano, o en historia medieval podían estudiar castillos, casas o inscripciones. Nosotros, en cambio, teníamos que trabajar con microobjetos. Y cada uno de sus detalles era muy relevante. Así que comenzamos a aplicar la estadística y el análisis factorial a la disciplina… Con el tiempo entendí que lo que estábamos haciendo era aplicar modelos estadísticos a las ciencias humanas. Hoy en día es algo ya común.

¿De esa experiencia aprendió a manejar ordenadores?

Pasé diez años haciendo investigación en arqueología. Investigamos y publicamos, dimos cursos en el CSIC… Hice todo lo que se espera de un buen académico. Pero, sorpresas de la vida, terminé trabajando como informático en el Centro de Cálculo de la Universitat Autònoma de Barcelona.

¿Por qué razón?

Eran los años 80 y en aquellos tiempos, usted recordará, los informáticos eran algo así como unos seres divinos que vestían con bata blanca y a los que se les trataba de “usted”. En la Autónoma, eran los que gestionaban el “Mainframe”, que era el ordenador corporativo y que ocupaba lo que un campo de tenis.

En los años 80 los informáticos eran algo así como unos seres divinos que vestían con bata blanca y a los que se les trataba de “usted”

Muy distinto a las miniaturas actuales, ciertamente.

En aquellos años también comenzaron a aparecer algunos ordenadores PC y los profesores de Química, de Matemáticas o de otras ciencias acudían al Centro de Cálculo para pedir ayuda con ciertas operaciones, tales como manejar el “config.sys”, o el “autoexec.bat”, o incluso manejar la impresora.

A los informáticos que manejaban el “Mainframe” aquello es parecía algo poco menos que indigno, pues su responsabilidad era la de gestionar el corazón de la Universidad y se desentendían de los microordenadores personales. Así que convocaron una plaza para dar apoyo al área de Microinformática de la institución.

Y usted se presentó a ella.

Ningún otro informático quería hacerlo. Y como los requisitos decían que había que ser licenciado y yo lo era, me presenté y la gané. Estuve en el lugar oportuno en el momento adecuado: al cabo de dos o tres semanas de mi incorporación, estábamos comprando e instalando centenares de ordenadores personales y montando las aulas de informática de toda la Universidad.

En aquella época, los periodistas pasamos de la Olivetti a los ordenadores.

Yo estuve 10 años más trabajando en la Autónoma. Un día, en 1993 o 1994, me tropecé con Gabriel Ferraté. Me compartió una idea sin precedentes en el mundo: crear una universidad 100% online. Le dije que era algo prácticamente imposible de hacer. Primero, porque la mayoría de la población no tenía acceso a los ordenadores. Segundo, porque había una ley estatal que reservaba la educación a distancia únicamente a la UNED.

Gabriel Ferraté me compartió una idea sin precedentes en el mundo: crear una universidad 100% online

¿Y qué pasó?

Ferraté insistió. E insistió tanto que decidí abandonar la vida más o menos resuelta que tenía en la Autónoma y me embarqué, junto a otras personas, en la aventura de crear una nueva universidad: la UOC. Fue la primera de sus características en todo el mundo.

Se dice pronto.

Allí trabajé otros diez años. Muchos de ellos con mi buen amigo Josep Salvatella, con quien aprendimos a ver cómo la tecnología nos ayudaba a resolver problemas hasta entonces no planteados. Por ejemplo: nadie se había planteado cómo impartir formación de una manera distinta a la tradicional, o cómo hacer exámenes diferentes, o cómo seguir los cursos de manera virtual. En esos años, en la UOC había un montón de cosas que no nos habíamos planteado antes.

Además, cuando el proyecto nació casi nadie creía en él… Por eso nos dejaron hacerlo. Actualmente es la universidad más grande de Catalunya y va camino de ser la mayor de España. Pero al principio no lo parecía. Y por eso el resto del sistema la toleró.

Cuando nació el proyecto de la UOC casi nadie creía en él… Por eso nos dejaron hacerlo

Junto a Josep Salvatella creó la firma de consultoría RocaSalvatella.

Sucedió que, estando en la UOC, muchas grandes corporaciones como Telefónica, La Caixa, el BBVA, etcétera, comenzaron a interesarse por lo que hacíamos. Veían que podríamos resolver algunos de sus problemas. Por ejemplo: imagínese que la Ley exige que todas las entidades bancarias tienen que impartir una formación para prevenir el blanqueo de capitales a todos sus empleados.

Los grandes bancos tenían a millares de ellos, por aquellos años.

En efecto. Esa formación les representaba un gran coste. No solo porque había que llevar a toda la plantilla a un mismo lugar y concentrarla durante los días del curso, sino porque también suponía un coste personal para todos los participantes.

La pregunta que se les pasó por la cabeza fue: “¿y no podríamos impartir esa misma formación de manera online, en horas de oficina y que cada uno la reciba desde su puesto de trabajo?”. La mera idea les pareció revolucionaria.

Y así fue como el sector privado comenzó a pedirnos cada vez más soluciones para sus problemas. Nos veían como una especie de laboratorio. De ahí que nos animáramos con Josep a montar nuestra propia firma de apoyo a grandes empresas. A eso se le llama “transformación digital” actualmente, pero este es un concepto que no utilizamos nunca. Preferimos llamarlo “cómo usar la tecnología para mejorar cosas”.

Preferimos no llamarlo “transformación digital”, sino “cómo usar la tecnología para mejorar cosas”

Visto así, tiene todo el sentido.

Fundamos la firma en 2008. En esos días, además de tener en marcha una crisis financiera global, muchos consejeros delegados y presidentes estaban preocupados. Les preguntaban a sus equipos qué era aquello del Facebook y qué eran los blogs. El comentario típico era: “me han dicho que hay alguien que nos está poniendo verdes en internet y no estamos respondiendo”.

También se preguntaban de qué manera se podrían establecer procesos para gestionar todo aquello: cómo liderar las conversaciones con el mercado, cómo dar atención al cliente, qué modelos de relación se podían desarrollar… Eran cosas que hoy en día están meridianamente claras pero que hace quince años ni siquiera se imaginaban.

Los consejeros, por ejemplo, no sabían si tenían que abrir perfiles corporativos en redes sociales en inglés, en español, en catalán o en los tres idiomas. Ni sabían si quien tenía que responder a los mensajes eran los del Departamento de Comunicación o los Community Managers…

En 2008 el comentario típico de los consejeros delegados era: “me han dicho que hay alguien que nos está poniendo verdes en internet y no estamos respondiendo”

Usted ha vivido de cerca muchas batallas iniciales de cambios tecnológicos trascendentales.

Para mí ha sido un privilegio. Hay quien me dice que he tenido mucha suerte… Suelo responderle que me lo he trabajado mucho. También hay quien me dice que me lo he trabajado mucho… ¡Y le digo que he tenido mucha suerte!

En cualquier caso creo que todas las personas hemos vivido esa época y que cada cual ha hecho un tránsito desde la máquina de escribir al PC y del PC al PC conectado a Internet, y luego a la interfaz web, y luego a la red social y luego a…

Así que, en efecto, he tenido la suerte de trabajar en esto con muchas organizaciones que han incorporado la tecnología. A veces lo hicieron a regañadientes, o por imperativo legal. Pero también lo he hecho estando en el grupo de quienes realmente querían probarlo. Eso es más divertido todavía.

Hablemos del proyecto de la fundació.cat que usted preside. ¿Qué nos puede explicar de ella?

La fundació.cat es un regalo que me ha dado la vida. Presidirla es un honor y toda una confianza que los miembros del Patronato me han brindado y que trato de corresponder. Pero también es un regalo para la sociedad.

La fundació.cat es un regalo para la sociedad

¿En qué sentido lo dice?

Usted sabe que todas las direcciones de páginas web en Internet terminan en un punto algoPuntocom, puntoorg, punto lo-que-sea… Sabrá también que los dominios que terminan en dos letras pertenecen a países o a estados.

España es “.es”, Francia es “.fr”, o Reino Unido es “.uk”, por ejemplo.

Exacto. Esa es una competencia de los estados porque el regulador internacional de las páginas web, el ICANN, lo decidió así y cedió la gestión de cada dominio a cada país. Desde entonces, cada país dispone también de un organismo público que administra esa cesión. En España se trata de “Red.es”.

Entendido.

En cambio, los dominios que terminan en tres letras ya no son de países, sino de temas. Por ejemplo: puntocom equivale a “comercial”; puntoorg equivale a “organizaciones”; puntoedu equivale a “educación”.

En cierto momento, los catalanes, que son un poco intrépidos, le explicaron al ICANN que lo catalán era un tema y que el puntocat podría ser un dominio válido: del mismo modo que puntoedu se define por unos objetivos educativos, lo puntocat podría vincularse con un dominio cultural del mundo, que es el catalán. Fueron una mezcla de ingenieros y abogados los que lo pidieron, y fue la primera petición de este tipo que recibió el ICANN en todo el mundo. También la primera en ser concedida.

Actualmente hay cientos de dominios culturales por todo el mundo: gallego, escocés, de Papúa-Nueva Guinea… Y en todas partes se reconoce que Catalunya abrió ese camino.

Actualmente hay cientos de dominios culturales por todo el mundo: gallego, escocés, de Papúa-Nueva Guinea… Y en todas partes se reconoce que Catalunya abrió ese camino

Intrépidos, sí.

Ahora bien: ¿quién puede gestionar el dominio puntocat: un organismo internacional desde Cincinnati? Pues la verdad es que no, porque ese dominio tiene un componente de enraizamiento cultural. ¿Un gobierno? Pues tampoco, porque el dominio no corresponde a ninguna entidad política. De ahí que se creara la fundació.cat.

Que no es pública.

Y que no tiene ánimo de lucro. Y que está integrada por organizaciones de la sociedad civil tales como el Institut d’Estudis Catalans, o la Coordinadora de Centros de Estudios de Parla Catalana, o el Cercle Tecnològic de Catalunya, por mencionar algunas.

Esta fundación gestiona el dominio, con lo cual existe un modelo de ingresos: cada vez que alguien compra o renueva su dominio puntocat, la empresa registradora habla con la fundació.cat porque nosotros somos mediadores ante el ICANN. Y esto nos permite generar un cierto margen. La fundación se autofinancia y nunca le ha pedido dinero a nadie.

Pero los dominios tampoco son muy caros.

Así es. Aunque contamos que hay unos 115.000 webs con dominio puntocat. Si cada uno implica un pequeño margen económico, vamos generando unos ingresos relevantes.

Ya le digo: no dependemos de ninguna fuente de financiación pública y nos da igual quién gana y quién pierde las elecciones, porque no nos afecta en nada. Súmele a ello la razón fundacional de promover el desarrollo de la sociedad de la información en territorios de habla catalana… Por eso le decía que es un regalo para la sociedad.

No dependemos de ninguna fuente de financiación pública y nos da igual quién gana y quién pierde las elecciones, porque no nos afecta en nada

¿Por ámbito cultural catalán se refiere solamente a Catalunya?

El ámbito cultural del catalán incluye a Andorra, a Valencia, a las Baleares. Se trata de un ámbito lingüístico, no político.

Mire, hace muy poco ha habido una cierta tensión porque los usuarios catalano-parlantes hemos detectado que cuando hacemos una búsqueda en Google, el catalán es penalizado en el orden de los resultados del buscador. Por lo menos, penalizado en relación con los resultados que salían hace cinco meses: si ahora buscas cualquier topónimo en catalán en el buscador, aunque utilices un navegador configurado en catalán, verás que los resultados que obtienes son, primordialmente, en castellano. Llegamos a la conclusión de que nuestro idioma y cultura están siendo penalizados para ciertos usos.

¿Y alguien puede hacer algo al respecto?

Nosotros, que para eso estamos. Somos los que podemos investigarlo o bien llamar a Google para hablar sobre ello. También podría hacerlo el Govern de la Generalitat, con todo el derecho. Pero, claro: no representa a la Generalitat Valenciana, ni al Govern d’Andorra, ni al de les Illes Balears. Este tipo de temas no se resuelven fácilmente desde el ámbito político. Mejor si es desde el cultural.

¿La fundacio.cat también abordará el tema de la inteligencia artificial?

Es un ámbito muy interesante y trataré de resumirlo. Seguro que a estas alturas muchas personas habrán interactuado ya con el llamado Chat GPT y sabrán que se trata de una inteligencia artificial alimentada por un gran repositorio de información. Da respuestas a preguntas y nos quejamos, más o menos, según si esas respuestas son buenas o malas, y según si vemos que tienen algún sesgo.

¿Sesgo, en qué sentido?

Muchas de las respuestas que nos da están planteadas desde una concepción anglosajona del mundo. Pero podría ser francesa, o racista, o misógina… Hoy en día, lo que nos preocupa es que este sesgo es la consecuencia de una carga de datos más o menos parcial o más o menos incorrecta.

¿Y cómo se lucha ante eso?

Yo pienso que la tendencia de esta tecnología no es la de darnos sistemas entrenados para que los usemos. Más bien creo que se trata de darnos la tecnología para que cada uno la rellenemos y que sea nuestra inteligencia artificial propia. Si tiene sesgo, es porque tú la has rellenado con él.

Esta mañana estuve en una gran corporación catalana. Me preguntaban sobre estos temas y les decía que si tenían necesidad de una inteligencia artificial que les ayudara en la toma de decisión, el tener un sesgo o no dependería del histórico de los datos que ellos tuvieran. Si la organización era capaz de cargar a la inteligencia artificial con información suficiente como para dar una respuesta sensible a la realidad sociocultural del territorio, la inteligencia sería sensible a esa realidad sociocultural.

Del mismo modo, temo que nuestro contexto cultural catalán puede tener un volumen de datos demasiado bajo como para entrenar bien a una inteligencia artificial.

Lo dice en relación con el ámbito cultural de la lengua catalana.

Así es: o nos juntamos los valencianos, los catalanes, los andorranos y los baleares, o no podremos entrenar bien a la inteligencia artificial. Y seguramente deberemos añadir a italianos y a franceses para poder tratar bien según qué temas. Es el momento de establecer alianzas y coaliciones culturales.

O nos juntamos los valencianos, los catalanes, los andorranos y los baleares, o no podremos entrenar bien a la inteligencia artificial

Es decir: si nadie hace nada, la inteligencia artificial del futuro estará sesgada por los valores norteamericanos y tal vez chinos, o los de la potencia de cada momento.

Y le diré otra pista más. Creo que el caso catalán puede ser una gran contribución a Europa. Actualmente existe el riesgo de que nuestra cultura sea muy anglófila y que cuando vaya a Netflix me recomienden siempre el mismo tipo de cosas… Los algoritmos tienen tendencia a aplanar las culturas. Y el aplanamiento cultural lo sufrirán también países Francia, Italia, Alemania… Creo que los catalanoparlantes podríamos ser el laboratorio de cómo se preserva una identidad cultural en Internet. Y será útil, porque será un problema que tendrán otros países del entorno.

Creo que los catalanoparlantes podríamos ser el laboratorio de cómo se preserva una identidad cultural en Internet

Oiga: ¿la inteligencia artificial podrá discriminar lo cierto de lo falso? ¿Las fake news de lo objetivamente demostrable?

Es una llamada al sentido común que le hacemos a la inteligencia artificial. Pero, fíjese: es una reivindicación que también le podríamos hacer a cualquier persona, o incluso a un libro. Imagínese que yo tuviera la costumbre de escribir habitualmente artículos de prensa o libros. Lo normal sería que el contenido de esta misma entrevista, una vez publicada, se lo entregara a mi asistente artificial, y luego él me podría ayudar en mi tarea de elaborar nuevos textos a mi propio estilo, porque yo lo habré ido entrenando para que me ayude a mi modo. Y eso no tiene nada de malo.

Pero eso de que se hagan tesis doctorales a través de una inteligencia artificial no parece que esté muy bien. ¿O sí?

Esa es la vieja historia de los plagios. Viene de lejos. Y no me genera ninguna inquietud. Ayer mismo estuve hablando con un radiólogo de un hospital importante. Él me decía lo siguiente: “yo me dedico al diagnóstico por imagen. Cada vez que tengo una imagen de un órgano, la analizo y elaboro un diagnóstico. Suelo utilizar un lenguaje técnico y una jerga médica. Ahora bien, si tengo a un paciente de 14 años con introversión, seguramente no me va a entender. Así que tomo mi informe médico, se lo paso al Chat GPT y le pido que me lo convierta a un texto ideal para un niño de 14 años. El resultado es óptimo y lo utilizo cada día”.

¡Qué interesante! Por fin entenderemos la caligrafía del médico…

Pues lo mismo pasa si le pide a la inteligencia artificial que escriba ese diagnóstico para una señora mayor. El informe se decodifica para adaptarse al estilo de comunicación del destinatario… Mi interlocutor me explicaba que él tiene la capacidad de hacer informes médicos, pero que no es especialista en hablar con adolescentes de 14 años. Por tanto, se apoya en la inteligencia artificial.

Y hace bien: se aprovecha de la tecnología disponible.

Lo mismo podríamos decir de usted, y de mí, y de quienes están realizando esta entrevista… Todos llevamos gafas y, claramente, las gafas son una tecnología. Sin ellas, yo tendría muchas dificultades a la hora de hacer algunas tareas. Las utilizo para mejorar mis capacidades.

Todos llevamos gafas y, claramente, las gafas son una tecnología. Sin ellas, yo tendría muchas dificultades a la hora de hacer algunas tareas

Decir que las gafas son una tecnología es correcto. Pero suena raro.

Lo que sucede es que usamos la palabra “tecnología” para referirnos a algo nuevo; algo que utilizas pero que te cuesta adoptar. Y eso suele tener que ver con cosas que han aparecido después de nuestro nacimiento. A lo que ha estado siempre ahí ya no lo llamamos tecnología.

El Chat GPT será como las gafas dentro de unos años. Ayudará a la gente a comunicarse mejor y no tendrá mayor importancia.

Y, volviendo a lo del diagnóstico de antes, ¿no sustituirá eso al trabajo de su amigo doctor?

Usted se hará una ecografía, el doctor la pondrá en su fluorescente, la observará y le dirá a usted que la ve completamente limpia de males. Y usted le agradecerá el trabajo al médico y, a continuación, le pedirá que la inteligencia artificial analice esa misma ecografía para ver si observa algo distinto.

Quiero decir que, más pronto que tarde, terminaremos pidiendo un diagnóstico asistido por ordenador. Y la razón es que, objetivamente hablando, el análisis artificial se realizará teniendo en cuenta el histórico de 20 millones de pruebas previas. En cambio, el doctor que le está atendiendo, aunque sea simpático y tenga experiencia, no tendrá tanta como la inteligencia artificial.

Más pronto que tarde, terminaremos pidiendo un diagnóstico asistido por ordenador

Entendido. Para terminar: ¿en qué ámbito clave tiene que avanzar el trabajo de la fundacio.cat?

Creo que el reto que tenemos es social, no tecnológico. Esto ya no va de cuánta tecnología nueva somos capaces de incorporar, sino de cuántas reglas de juego somos capaces de rediseñar. Se trata de renegociar un contrato social.

Hay cosas que debemos volver a discutir en el mundo digital. Por ejemplo: el concepto de privacidad, el de propiedad, el de confianza… ¿Quién tiene ahora mis datos y qué garantías me da de que no los va a compartir con nadie más? Este es un trabajo de arquitectura social y de marco legal. No es tanto de tecnología.

Lo que menos me preocupa del Chat GPT son los algoritmos o la ciencia que lo hacen posible. Lo que más me interesa, en cambio, es si hay que regular su uso, quién hace la regulación y bajo qué parámetros.

Esto ya no va de cuánta tecnología nueva somos capaces de incorporar, sino de cuántas reglas de juego somos capaces de rediseñar

Genís Roca se licenció en Arqueología, con especialidad en el Paleolítico Inferior y cursó un MBA. Aprendió a utilizar ordenadores encontrando, catalogando y documentando los hallazgos enterrados en el suelo y, sin darse cuenta, su interés en lo prehistórico le llevó a convertirse en un experto en tecnología moderna.

Tras unos años en el Centre de Càlcul de la Universitat Autónoma de Barcelona, ayudó a levantar la Universitat Oberta de Catalunya, donde fue gerente de las iniciativas en Internet, adjunto a la gerencia, responsable de los servicios universitarios no académicos y director de informática corporativa. Fue director general de Infonomía y fundó la consultora RocaSalvatella, que actualmente opera en más de 20 países en el mundo. Ha recibido muchos reconocimientos, impartido numerosas conferencias y formaciones, y ha participado como sabio analista de infinitos medios de comunicación. Siempre dando sentido al significado de la tecnología en nuestro tiempo y a cómo los seres humanos podemos sacarle provecho. Autor de diversos libros sobre sociedad del conocimiento, big data y otros asuntos parecidos. Preside la Fundació.cat.

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

Feedback se reserva el derecho de revisar los comentarios y despublicar en caso de no ser apropiados.