(Lectura en español disponible al final)
Feia ja calor la vesprada del divendres 28 de juny de 2024, però això no va evitar la reunió mensual del «Hablemos» en les fresques i belles sales de Las Naves, a València, per a discutir i conèixer les diferents problemàtiques que han aparegut especialment aquest últim any amb l’aparició de productes com ChatGPT, Gemini, Dall-E, etc.
El tema estava molt obert, ja que són nombrosos i variats els diferents perills als quals ens enfrontem davant una tecnologia d’aquest calibre. Ací pots llegir la convocatòria.
Intel·ligència privativa, apropiació i venda de dades
Com no podia ser menys, entre els assistents era bastant conegut d’antuvi el problema de la utilització d’eines de programari privatiu, i no anava a ser menys amb la intel·ligència artificial, especialment quan es tracta d’un servei en el «cloud»; o com diu la FSFE, «someone else’s computer».
Va quedar evidenciat, a més, que en aquest cas corríem un perill encara major ja que aquestes empreses, com OpenAI (un nom sens dubte controvertit), basen el seu treball en el literal consum massiu de dades (i d’energia) i en el seu processament i categorització exhaustius.
També es va comentar breument que no sols aquestes empreses utilitzen models privatius d’intel·ligència artificial, sinó que a més les seues fonts d’informació (aquelles que serveixen per a entrenar els models) tampoc queden gens clares.
El cas més sonat és el de Meta utilitzant llibres piratejats per a alimentar el seu monstre d’intel·ligència, la qual cosa toca la qüestió d’allò que a alguns us sonarà, la «cultura lliure«, i és que estem veient com aquestes macroempreses tenen la llibertat de jugar amb els drets d’autor a la seua conveniència i traure benefici econòmic d’això, mentre que el ciutadà mitjà és criminalitzat per consumir cultura de forma lliure.
Aquest últim punt ens hauria de fer veure també un altre exemple més que, per molt que l’empresa diga el que diu en els seus termes d’ús i privacitat… després faran el que els convinga en el moment que els interesse.
Dependència i poder
Eixint-nos un poc del món del programari i cultura lliure, es va comentar amb bastant profunditat el tema dels efectes socials que pot tindre una eina com aquesta, que podria causar un efecte de «dependència» en la societat.
Tota nova tecnologia, aplicada malament, tindrà efectes negatius. D’ací que es destacara la importància de la ciutadania en no adormir-se, no deixar-se portar per la tecnologia i el seu màrqueting, i que aquesta servisca per a portar més lluny aquells projectes i somnis, en compte de substituir-los per uns altres.
Si no som capaços d’aplicar positivament aquesta tecnologia, ens tornarem dependents d’aquesta, i com hem dit en el tema anterior… li estarem donant el control (almenys hui en dia) a multinacionals sobre allò que pensem, escrivim, o creem.
Va sonar aquella vesprada una frase profunda, i encara que puga paréixer contradictòria, no ho és en absolut: «per a aprendre de veritat a llegir, has de saber escriure». És a dir, per a assegurar-te que una eina com la IA no t’està sotmetent, has de conéixer-la primer, entendre com funciona, els seus avantatges, i en particular les seues limitacions. Hem de tindre el control, o ser perfectament conscients de a qui li’l cedim i en quina mesura.
Educació i llibertat
Amb un professor en la xarrada, era evident que anàvem a entrar en el tema de l’educació. Quina altra eina per a evitar la dependència i recuperar el poder?
Es van exposar exemples de com ja s’estan donant cursets ràpids a professors on se’ls ensenya a compartir informació privada dels alumnes amb «chatbots» privatius per a, suposadament, ajudar-los en el seu treball; sense tindre cap consciència absoluta de cap dels punts que hem comentat prèviament. Com si aquestes macroempreses estigueren oferint els seus serveis gratuïts per amor a l’art, com un regal diví.
Va quedar claríssim, i per unanimitat, que el món de l’educació és una peça clau en la conscienciació del futur de la humanitat sobre el poder de les tecnologies, i com l’educació en tecnologies lliures (també IA lliure, que n’hi ha) és de les poques maneres que tenim per a aconseguir entre tots una societat més lliure, segura i sense biaixos.
La intromissió de Google amb els seus Chromebooks i els seus Workspaces en els col·legis, o l’ús parasitari de llicències de Windows i Microsoft Office en els centres escolars és un clar atac a la llibertat dels estudiants, especialment sabent que existeixen eines lliures igual de capaces, o fins i tot més, senzillament perquè eres lliure d’estudiar-les, millorar-les, adaptar-les, usar-les, compartir-les…
És importantíssim, per tant, recolzar projectes com LliureX en la Comunitat Valenciana, on a més vam saber de primera mà que estan treballant en crear i oferir serveis d’IA lliures per a tots aquells col·legis interessats en la comunitat.
Des d’ací enviem una gran salutació a tots aquells professors i divulgadors que coneixen i divulguen el programari lliure, així com tot el nostre suport al projecte LliureX, al qual seguirem molt de prop en aquesta aventura de la intel·ligència artificial. Sou molt importants. La batalla continua.
¿Vols participar en un «Hablemos»? No necessitem que sàpigues del tema, ni que portes res preparat. Es tracta d’un petit esdeveniment per xarrar informalment i crear vincles en la comunitat. Fem un d’aquests l’últim divendres de cada mes. No t’ho perdes!
Aquí puedes leer el mismo texto en español:
Lectura en español
Crónica del «Hablemos: los peligros de las IA» (2024-06-28)
Hacía ya calor la tarde del viernes 28 de junio de 2024, pero eso no consiguió evitar la reunión mensual del «Hablemos de…» en las frescas y bellas salas de Las Naves, en València, a discutir y conocer sobre las distintas problemáticas que han aparecido en especial este último año con el surgimiento de productos como ChatGPT, Gemini, Dall-E, etc.
El tema estaba bastante abierto, ya que son numerosos y variados los distintos peligros a los que nos enfrentamos ante una tecnología de este calibre. Aquí puedes leer la convocatoria.
Inteligencia privativa, apropiación y venta de datos
Como no podía ser menos, entre los asistentes era bastante conocido de antemano el problema de la utilización de herramientas de software privativas, y no iba a ser menos con la inteligencia artificial, especialmente cuando se trata de un servicio en el «cloud»; o como dice la FSFE, «someone else’s computer».
Quedó evidenciado, además, que en este caso corríamos un peligro aún mayor ya que estas empresas, como OpenAI (un nombre sin duda controvertido), basan su trabajo en el literal consumo masivo de datos (y de energía) y en su procesamiento y categorización exhaustivas.
También se comentó brevemente que no solo estas empresas utilizan modelos privativos de inteligencia artificial, sino que además sus fuentes de información (aquellas que sirven para entrenar los modelos) tampoco quedan nada claras.
El caso más sonado es el de Meta utilizando libros pirateados para alimentar a su monstruo de inteligencia, lo que toca el palo de aquello que a algunos os sonará, la «cultura libre», y es que estamos viendo como estas macroempresas tienen la libertad de jugar con los derechos de autor a su gusto y sacar beneficio económico de ello, mientras que el ciudadano medio es criminalizado por consumir cultura de forma libre.
Este último punto nos debería hacer ver también otro ejemplo más de que, por mucho que la empresa diga lo que dice en sus términos de uso y privacidad… luego harán lo que les convenga en el momento que les interese.
Dependencia y poder
Saliéndonos un poco del mundo del software y cultura libre, se comentó con bastante profundidad el tema de los efectos sociales que puede tener una herramienta como esta, que podría causar un efecto «dependencia» en la sociedad.
Toda nueva tecnología, aplicada mal, tendrá efectos negativos. De ahí que se destacó la importancia de la ciudadanía en no dormirse, no dejarse llevar por la tecnología y su marketing, y que esta sirva para llevar más lejos aquellos proyectos y sueños, en vez de sustituirlos por otros.
Si no somos capaces de aplicar positivamente esta tecnología, nos volveremos dependientes de ésta, y como hemos dicho en el tema anterior… le estaremos dando control (al menos hoy en día) a multinacionales sobre aquello que pensamos, escribimos, o creamos.
Sonó esa tarde una frase profunda, y aunque pueda parecer contradictoria, no lo es en absoluto: «para aprender de verdad a leer, debes saber escribir». Es decir, para asegurarte que una herramienta como la IA no te está sometiendo, debes primero conocerla, entender cómo funciona, sus ventajas, y en particular sus limitaciones. Debemos tener el control, o ser perfectamente conscientes de a quién se lo cedemos y en qué medida.
Educación y libertad
Con un profesor en la charla, era evidente que íbamos a entrar en el tema de la educación. ¿Qué otra herramienta para evitar la dependencia y recuperar el poder?
Se expusieron ejemplos de cómo ya se están dando cursillos rápidos a profesores donde se les enseña a compartir información privada de los alumnos con «chatbots» privativos para, supuestamente, ayudarles en su trabajo; sin tener ninguna absoluta conciencia de ninguno de los puntos que hemos comentado previamente. Como si estas macroempresas estuvieran ofreciendo sus servicios gratuitos por amor al arte, como un regalo divino.
Quedó clarísimo, y por unanimidad, que el mundo de la educación es una pieza clave en la concienciación al futuro de la humanidad sobre el poder de las tecnologías, y cómo la educación en tecnologías libres (también IA libre, que hay) es de las pocas maneras que tenemos para alcanzar entre todos una sociedad más libre, segura y sin sesgos.
La intromisión de Google con sus Chromebooks y sus Workspaces en los colegios, o el parasitario uso de licencias de Windows y Microsoft Office en los centros escolares es un claro ataque a la libertad de los estudiantes, especialmente sabiendo que existen herramientas libres igual de capaces, o incluso más, sencillamente porque eres libre de estudiarlas, mejorarlas, adaptarlas, usarlas, compartirlas…
Es importantísimo, por lo tanto, apoyar proyectos como LliureX en la Comunitat Valenciana, donde además supimos de primera mano que están trabajando en crear y ofrecer servicios de IA libres para todos aquellos colegios interesados en la comunidad.
Desde aquí mandamos un gran saludo a todos aquellos profesores y divulgadores que conocen y divulgan el software libre, así como todo nuestro apoyo al proyecto LliureX, al cuál seguiremos muy de cerca en esta aventura de la inteligencia artificial. Sois muy importantes. La batalla continúa.
¿Quieres participar en un «Hablemos»? No necesitamos que sepas del tema, ni que traigas nada preparado. Se trata de un pequeño evento para charlar informalmente y crear vínculos en la comunidad. Hacemos uno de estos el último viernes de cada mes. ¡No te lo pierdas!