Mauro L. Muñoz

El pensamiento académico y la voluntad política se unieron en torno a una temática que asoma con fuerza en la inminente Reforma Constitucional de Santa Fe: los derechos digitales. La diputada provincial y convencional electa Gisel Mahmud y el filósofo Tomás Balmaceda se dieron cita en la redacción de El Litoral, tras una jornada de una jornada de puesta en común sobre este debate.

Balmaceda es doctor en Filosofía por la Universidad de Buenos Aires e investigador del CONICET. Su trabajo se centra en el vínculo entre tecnología y sociedad, un campo en el que combina la investigación académica con la divulgación pública. Junto a otros colegas fundó un grupo de investigación sobre filosofía y tecnología, y desde hace años participa en debates sobre inteligencia artificial, ética digital y ciudadanía tecnológica. Fue invitado a Santa Fe para protagonizar un conversatorio, en el que participaron más de cincuenta personas de distintas disciplinas, para pensar en conjunto los desafíos del presente y las posibilidades a futuro que la reforma a la Carta Magna dejará impregnada en este nuevo aspecto: el tecnológico.

La actividad se enmarcó en una serie de debates preparatorios que se vienen llevando a cabo desde sectores legislativos y sociales de cara a la inminente Convención Constituyente que tendrá lugar este año en Santa Fe. En la reforma de la Carta Magna, se contempla que uno de los ejes sea la incorporación de un capítulo vinculado a los derechos digitales. La diputada Gisel Mahmud, quien preside la Comisión de Educación, Ciencia, Tecnología e Innovación de la Cámara baja y fue electa como convencional constituyente, es una de las impulsoras de esta agenda.

Acceso universal a internet, protección de datos personales, ciudadanía digital, gobierno abierto, inteligencia artificial aplicada al trabajo y a la educación fueron algunos de los temas que surgieron de la actividad “Conversaciones para la reforma 2025” respecto a lo que puede incorporar la Constitución.

Ludopatía en adolescentes por el fenómeno de las apuestas online, salud mental deteriorada por una hiperconexión, formación continua en torno a las herramientas digitales y cómo garantizar que la tecnología no profundice desigualdades, fueron otros aspectos que se desplegaron en la conversación en El Litoral en un debate que apenas comienza.

"Me encantó la invitación de Gisel a Santa Fe. En el conversatorio hubo personas muy distintas (docentes, abogados, adolescentes, bioquímicos, personas del ámbito del derecho y la discapacidad) pero todas reunidas bajo una misma pregunta: ¿qué entendemos por derechos digitales?", comentó Balmaceda.

-¿Cómo se traduce esa pregunta desde el enfoque filosófico al debate constitucional?

-TB: Lo que me interesa en estos casos es empoderar a las personas para que entiendan que no hace falta tener conocimientos técnicos para hablar de tecnología. Por supuesto que hacen falta especialistas, pero el impacto de la tecnología es tan profundo que nos atraviesa a todos. Un lema de mi grupo de investigación es que la tecnología no puede resolver los problemas que ella misma generó. Hoy tenemos muchas dudas sobre la inteligencia artificial: su impacto en el trabajo, en el entretenimiento, en la información. Todo eso lo generó la tecnología, pero no va a ser un programador el que resuelva las fake news o los deepfakes. Se necesitan más personas pensando sobre estos asuntos porque es en cada uno de nosotros en quienes impacta directamente. Lo que sucede es que muchas veces nos autoexcluimos de esos debates. Pensamos que no sabemos lo suficiente o, en ocasiones, que es cosa de jóvenes. Por eso acepté la invitación. Me pareció importante que la academia participe y ayudar a mostrar que más allá de los libros, todas las voces son relevantes.

-¿Por qué la necesidad de este debate y de sumar voces especialistas?

-GM: Con Tomás ya habíamos trabajado en una charla sobre inteligencia artificial cuando recién aparecía ChatGPT. Ahora, con la Convención Constituyente a punto de empezar, decidimos volverlo a convocar porque queremos que Santa Fe dé un paso hacia una Constitución que escuche el presente y mire al futuro. De nuestra parte venimos trabajando desde hace años en temas vinculados al uso cotidiano de la tecnología. Por ejemplo, el año pasado impulsé una ley para prevenir la ludopatía online en adolescentes. Hoy, ante la reforma, tenemos una oportunidad histórica: incorporar los derechos digitales a nuestra Constitución. Santa Fe es una de las últimas provincias en reformar su carta magna, pero podemos ser los primeros en tener una Constitución moderna. No se trata solo de redactar nuevos artículos, tenemos que pensar en cómo la conectividad se transforma en un mejor servicio público o en cómo el Estado puede usar la tecnología para mejorar la gobernanza. Algunos países optan por no regular. Pero no regular también es una decisión. Es permitir que pase cualquier cosa, desproteger a la gente, especialmente a niños y adolescentes ante nuevos fenómenos. Pero además es perder la oportunidad de pensar cómo la tecnología puede mejorar el Estado, la producción, la educación, la salud, el empleo. Por eso me pareció oportuno invitar a alguien como Tomás, que ayuda a pensar desde la filosofía cómo nos atraviesan estos cambios.

-¿Hasta qué punto una Constitución puede abordar temas tan nuevos y cambiantes?

-TB: Las constituciones son marcos. Me gusta pensarla como un arenero: tiene límites, pero adentro podés moverte. Lo importante es que sea lo suficientemente amplia para permitir lo que todavía no imaginamos. Por ejemplo, nuestra Constitución hablaba de la divulgación científica, algo que después de la pandemia se vio trastocado por muchos discursos anticientíficos y muchas dudas con respecto a la evidencia, entonces hoy vemos el valor de que esto haya sido considerado. Entonces, así como esa norma fue adelantada a su tiempo, la que se redacte ahora también tiene que estar pensado para durar muchas décadas. Por eso considero que lo que no se debe hacer es pensar en plataformas específicas, pero sí tiene que proteger principios: privacidad, libertad de expresión, autonomía, acceso.

-También obligaciones

-GM: Claro. Tenemos el desafío de acordar qué provincia queremos ser, qué derechos queremos garantizar y qué obligaciones tiene que tener el Estado. Pero en esa discusión no podemos dejar afuera lo digital. La ley de necesidad de la reforma no habilita a dar el debate, tenemos que hacerlo considerando todos estos aspectos. Debemos regular, por ejemplo, que si se usa inteligencia artificial para determinado fin, prevalezca por sobre ella la supervisión humana. En el caso que de acá a algunos años, por ejemplo, se establezca una fórmula algorítmica de criterios sobre concursos docentes, no podemos dejar librado al azar esos algoritmos para que decidan solos porque en muchas ocasiones que persisten sesgos discriminatorios que no contemplan factores humanos que son necesarios considerar. También creo que hay que establecer el acceso a Internet como un derecho humano esencial, porque sin conectividad, no hay igualdad de oportunidades. Y creo que la pobreza del futuro será también una pobreza digital. Tenemos que garantizar que los derechos de siempre —trabajar, estudiar, desarrollarse— también estén protegidos en los entornos virtuales.

-¿Hay algo que convendría no regular en una Constitución?

-TB: El mayor error sería negarle lugar a la tecnología. La historia lo muestra: ante cada revolución tecnológica hubo miedo. Pensemos en la Revolución Industrial: reemplazó el trabajo manual, generó desempleo, hubo revueltas para destruir máquinas que alteraron el orden de la vida. Hoy podríamos tener esa misma tentación: negar. Pero prohibir no sirve. Hay que confiar en que, bien orientado, el cambio puede hacernos mejores. Es clave asumir que estos cambios existen y pensar en cómo guiarlos para construir una sociedad más justa es lo imperioso.

-¿Qué hacemos con lo nuevo, como la inteligencia artificial? ¿Cuánto de ello puede abarcar una Constitución?

-TB: No soy ni abogado ni constitucionalista, pero desde mis conocimientos filosóficos creo que tenemos que pensar que esta Constitución tenga que ser lo suficientemente amplia como para imaginar las próximas revoluciones digitales que puedan existir en términos de aquello que no cambia. Hay muchos derechos que los ubicamos en lo digital que, en realidad, son los mismos derechos que tenemos ahora pero en otro plano. Me parece que el desafío es dejar establecidos acciones y principios rectores, y no caer en la tentación de querer regular herramientas específicas que cambian todo el tiempo y cada vez más rápido. No importa si usas Twitter o el Metaverso, lo que vale es tener garantizada la conectividad, la autonomía, la privacidad, la libertad de expresión. Son valores históricos de la República que deber seguir protegidos. Porque lo digital no es un mundo separado. Todo es real: el acoso en redes, la desinformación sobre salud, todo tiene consecuencias reales. Tenemos que dejar de hablar de "vida real" y "vida virtual" como si fueran mundos distintos. Todo es real: lo analógico y lo digital.

-¿Puede la tecnología ayudar a mejorar la calidad democrática de la vida en sociedad?

-GM: Absolutamente, porque cuando hablamos de la Constitución, no solo tenemos que pensar en derechos ciudadanos, sino también en el compromiso tecno-democrático del Estado. Estamos en un momento en que se cuestiona fuertemente el rol del Estado y la función de la política, la forma en la que me dan respuestas y en la que se asisten derechos y necesidades. Bueno, para poder agilizar las calidad de respuesta del Estado, para poder hacer que tener que hacer un trámite en una app no sea inviable, para poder hacer que un formulario digital sea realmente accesible. Además, podemos pensar en la posibilidad que mecanismos de participación, de que un vecino pueda participar en la presentación de un proyecto de ley, de expresar opinión en el caso de una revocatoria del mandato de un funcionario público que no cumple con su obligación. Son todos aspectos que tienen que ver con ampliar la participación democrática y también con la rendición de cuentas, con que la política no es un lugar de privilegios, sino de servicio para la sociedad.

-¿Cuál es el desafío de los convencionales en este aspecto novedoso para la Constitución provincial?

-GM: Como decía Tomás, tenemos que tener la flexibilidad para formular de modo amplio lo que se establezca, para que nos permita luego adecuarlo al devenir de cambios que cada vez son más acelerados. Y en ese sentido resalto que necesitamos una ciudadanía empoderada, que conozca de qué estamos hablando. Que los santafesinos sepan que tienen que tener el derecho a una alfabetización digital continua por ejemplo, porque hoy ya no alcanza con terminar la escuela o hasta incluso en la universidad. Los trabajos cambian permanentemente e incluso los docentes tienen que seguir capacitándose. Entonces, en cada uno de los capítulos de los distintos planteos tienen que girar en torno a dar a la ciudadanía herramientas que le permita ir de la mano del avance tecnológico porque de eso se trata el progreso de la sociedad. Pero si no regulamos determinados marcos, probablemente haya algunos pocos que avancen con ese progreso y otra parte de la sociedad que quede excluida, profundizando las desigualdades. Entonces, nos debemos el pensar una sociedad donde nadie quede atrás mientras la tecnología avanza.

Un sitio web que simula ser un medio de comunicación divulga decenas de “noticias” falsas por día, diseñadas para manipular el resultado de las elecciones en algún país, provocar un clima de división y enfrentamiento o difamar a enemigos políticos de sus patrocinadores. Decenas de páginas similares, aparentemente no vinculadas entre sí, alojadas en servidores de distintos países con dominios que no registran la identidad real de sus propietarios, replican todo ese contenido tóxico, adaptado al perfil y los intereses de diferentes tipos de público.

Las fake news viralizan en redes sociales cuyos algoritmos favorecen su diseminación en detrimento de las noticias reales de fuentes confiables, y lucran con la polarización y la violencia política que aquellas incentivan. Clic, caja.

Grupos de usuarios unidos por la desinformación, el odio y la conspiranoia se organizan en foros digitales anónimos de extrema derecha para amenazar a las víctimas de las campañas sucias, asediar a quienes no comparten sus ideas o provocar actos violentos. Perfiles falsos que se replican infinitamente actúan en las redes para aumentar el alcance de ese tipo de campañas, y la cantidad de clics y el tiempo frente a la pantalla de usuarios reales que todo eso produce ayuda a las plataformas a ganar miles de millones de euros en publicidad, muchas veces engañosa. Clic, caja. Productos y servicios reales o falsos son ofrecidos con mensajes tramposos, sin que nadie registre la identidad de quienes los comercializan ni se haga responsable de eventuales fraudes.

Mientras tanto, todo lo que todos hacen a diario en internet produce datos, montañas de datos. La información recopilada por distintas páginas y aplicaciones que vigilan la actividad de los usuarios permite focalizar tanto la publicidad comercial como los contenidos que los mantienen conectados e interactuando cada vez más horas por día con sus celulares y tablets. Clic, caja.

En 2020, Facebook facturó unos 84.200 millones de euros por este tipo de publicidad y Google, 147.000. En ambos casos, más del 80% de sus ganancias salen de ahí. Los datos son verdadero negocio y la verdadera finalidad de cada filtro de Instagram, cada like en Facebook, cada crush en Tinder, cada mensaje en WhatsApp, cada película de Netflix, cada búsqueda en Google, cada inocente formulario que nos piden que rellenemos online y cada cookie que aceptamos.

Al responder a un cuestionario, jugar online, crear un perfil en una aplicación, darle like a un comentario o a una imagen, responder a una encuesta, buscar pareja o relaciones de sexo ocasional, decirle algo a Alexa o Siri, usar un buscador de internet, entrar a un grupo de WhatsApp o pedir un préstamo en una financiera, millones de usuarios en todo el mundo les dan a las bases de datos toneladas de información sobre sí mismos de la que ni siquiera son conscientes.

Toda esa información vale oro. Clic, caja. Quienes pagan por ella la pueden usar para engañarlos, manipularlos, estafarlos o venderles un shampoo, un auto, una suscripción al gimnasio o un candidato presidencial. Inclusive los niños y adolescentes son bombardeados con publicidad segmentada y focalizada para que les vendan por ellos cualquier cosa a sus padres.

Pero todo esto y mucho más podría empezar a cambiar, dependiendo de hasta dónde decida llegar la Unión Europea en su futura ley de servicios digitales.

El pasado 20 de enero, con 530 votos a favor, 78 en contra y 80 abstenciones, el Parlamento Europeo aprobó su posición sobre la futura ley, que ahora comenzará a ser negociada por los 27 países miembros del Consejo Europeo y las autoridades de la Comisión Europea, un proceso que promete ser tenso, con todo tipo de presiones, y que podría extenderse hasta abril o mayo. De aprobarse esta ley, que empezó a discutirse hace dos años, sería la primera regulación a nivel continental y sentaría un precedente en el mundo.

Sus objetivos declarados son hacer que el espacio digital sea más seguro y privado, eliminar el contenido ilegal, limitar la extracción de datos de los usuarios y la publicidad personalizada, proteger a los menores de edad y dar mayor transparencia a los algoritmos que seleccionan el contenido que cada uno recibe de acuerdo a su perfil. Para ello, se establecerán nuevas reglas que afectarán a las compañías tecnológicas responsables por las redes sociales, los servicios de mensajería y las aplicaciones y cambiarán la forma en que usamos internet, con repercusiones que pueden llegar más allá de las fronteras de Europa.

La regulación actual de los servicios digitales en el continente está dada por una directiva de comercio electrónico del año 2000. Aunque hayan pasado poco más de veinte años, en términos digitales fueron siglos: cuando fue dictada, no existían el iPhone, Facebook, Twitter, Instagram, Tinder, Google Maps, WhatsApp, Telegram, Skype, Zoom; Netflix era un servicio de alquiler de DVDs, HBO era un canal de cable y Amazon recién comenzaba a expandir su actividad en la venta de libros y CDs.

Los teléfonos los usábamos apenas para hablar por teléfono, las series las veíamos por televisión y, para ubicarnos en nuestras vacaciones, usábamos un mapa de papel.

Desde entonces, el mundo ha cambiado y lo digital ocupa un espacio gigantesco en nuestras vidas. Miramos la pantalla del celular antes de levantarnos de la cama. Nos comunicamos por servicios de mensajería instantánea; nos informamos, discutimos sobre política y mantenemos amistades y relaciones a través de las redes sociales; buscamos trabajo, restaurantes, sexo o parejas en aplicaciones para celulares; miramos series y películas por servicios de streaming y compramos cualquier cosa por internet.

Cada vez que hacemos cada una de esas cosas, ofrecemos gratuitamente a las compañías todo tipo de información sobre nosotros: saben nuestro nombre, género, edad, estudios, profesión, orientación sexual, color de piel, club de fútbol, nuestros gustos musicales, hobbies, opiniones políticas, religión.

Saben quiénes son nuestros amigos, qué música nos gusta, cuál es nuestra comida favorita, que tipo de zapatillas compramos, qué libros leemos, qué series y películas nos gustaron más, con qué diarios nos informamos, dónde trabajamos, cuánto gastamos, en qué banco tenemos cuenta, dónde vivimos, si estamos en pareja o solteros, qué nos gusta hacer en la cama y con qué tipo de hombre o mujer, cómo es nuestro ritmo cardiaco y nuestra presión arterial, cuantos pasos damos por día, si corremos o andamos en bicicleta, qué opinamos sobre los temas de actualidad, qué cosas nos enojan o nos movilizan, qué tipo de pornografía preferimos, a qué candidatos votamos, qué temas nos preocupan, y hasta conocen el recorrido exacto que hacemos cada día desde que nos despertamos hasta que volvemos a dormir, que queda registrado por el GPS de nuestro celular.

Tanta información, organizada, estudiada en detalle y usada para crear infinidad de perfiles de consumidor les permite vendernos lo que sea: un producto, un servicio, una idea, una indignación, una causa. Clic, caja.

Estas nuevas tecnologías imponen nuevos desafíos a las sociedades y demandan una regulación compleja que pone en juego no solo las leyes del mercado, sino también el derecho a la privacidad, el acceso a la información, la libertad de expresión y opinión, los derechos políticos, la seguridad, los derechos del consumidor y hasta la salud pública. Cada artículo de la futura ley obligará a tomar decisiones y hacer equilibrios entre diferentes principios, normas e intereses.

La propuesta aprobada por el Parlamento Europeo parte del principio de que todo lo que es ilegal en el mundo físico debe serlo también en el digital. Para que esto sea así, uno de los temas más conflictivos es la responsabilidad de las redes sociales en los contenidos que distribuyen. La propuesta establece que los administradores de las redes deberán tomar medidas eficaces para identificar y eliminar contenido ilegal y evitar la circulación de fake news, discursos de odio o fraudes. Los administradores de dominios de internet deberán estar registrados con su identidad real y lo mismo vale para quienes venden productos y servicios online, que no podrán valerse del anonimato para violar la ley o engañar a los consumidores. Las compañías deberán informar a las autoridades sobre las medidas tomadas para hacer cumplir estas reglas.

Uno de los puntos sensibles en el control de la información falsa es que no se excluyó a los medios de comunicación de los contenidos que podrían ser eliminados de las redes sociales, ya que muchas “granjas de fake news” funcionan bajo una fachada que aparenta ser un medio de comunicación digital.

La ley también pretende limitar la extracción de datos de los usuarios, permitiendo que estos puedan saber y decidir las informaciones sobre sí mismos que están dispuestos a dar, sin “autorizaciones” engañosas, textos larguísimos en lenguaje jurídico a los que solo se puede decir sí o no y formularios incomprensibles, insistentes y demorados para autorizar o rechazar las cookies.

Se prohibiría el uso de datos y la publicidad focalizada a menores de edad, así como la extracción de datos sensibles como religión, orientación sexual u origen étnico. Los algoritmos deberían ser más transparentes y debería informarse a los usuarios no su código, protegido por derechos de propiedad intelectual, pero sí cómo funcionan.

Las agencias públicas harían revisiones periódicas de los algoritmos y estos serían accesibles también al mundo académico, para estudiar el impacto de las nuevas tecnologías. Los usuarios también tendrían derecho a eliminar aplicaciones preinstaladas en sus dispositivos.

La idea es que los controles y las reglas sean más fuertes cuanto mayor sea la empresa, y las grandes compañías digitales deberán tener representantes legales en Europa aunque su sede esté en otro continente.

Cada una de las reglas en discusión tiene un gran número de implicaciones y detalles extremamente complejos que serán negociados en los próximos meses. Del resultado de esa negociación puede salir el mundo digital del futuro y es muy probable que los cambios sean enormes.