La posible monitorización de empresas para control de la IA.

[MOD-Ignacio-2]

Estimados delegados,

La delegada Alba, de Valencia, propone como tema de debate la posible monitorización de empresas; ya que, según expone, el libre uso de la IA en estos sectores puede fomentar su utilización en ámbitos como el espionaje, y en consecuencia, producir injerencias en las democracias actuales.

Es un tema de vital importancia teniendo en cuenta lo siguiente, ¿qué supondría para las empresas la restricción de las tecnologías bulliciosas? ¿Creen ustedes esto posible a sabiendas del control masivo de las empresas en términos económicos?

Ella afirma que “esto va más allá de ética y la moral, por lo que al violar derechos fundamentales es un arma contra la libertad y la democracia” 

Delegados, ¿qué debe primar en toda esta cuestión, la libertad de la empresa o la restricción en ella?

[46034211-2-Alba-2]

Buenas tardes, Presidencia y delegados.

- ¿Qué debe primar en toda esta cuestión, la libertad de la empresa o la restricción en ella?

Los Principios para la Democracia de Reykjavík (https://www.coe.int/en/web/portal/-/heads-of-state-and-government-agree-to-strengthen-council-of-europe-ensure-accountability-for-russia-s-war-of-aggression-against-ukraine-and-support-victims) ratifican que es el único medio para que las personas vivan en una sociedad libre. Si eso no se extiende también al mundo virtual, tendremos problemas para las libertades. Debe tener prioridad que cada individuo no vea violada su libertad, por lo que tendremos que debatir si se puede intervenir en la empresa privada.

- ¿Qué supondría para las empresas la restricción de las tecnologías bulliciosas?

Los Miembros del Parlamento Europeo advierten que las próximas Elecciones Europeas de 2024 pueden ser objetivo de desinformación y la injerencia de personas y países:

https://www.europarl.europa.eu/news/en/press-room/20230524IPR91908/foreign-interference-meps-call-for-urgent-protection-of-2024-european-elections

No hay que olvidar el caso de espionaje Pegasus a periodistas, políticos, etc  (https://www.europapress.es/nacional/noticia-consejo-europa-quiere-marruecos-informe-si-uso-pegasus-fuera-pais-israel-coopere-investigaciones-20230908164350.html ),por lo que el Parlamento Europeo pide una regulación sobre estas tecnologías:

https://www.europarl.europa.eu/thinktank/es/document/EPRS_ATA(2023)747923

Por lo tanto, está claro que hay que restringir de algún modo estas tecnologías que atacan libertades y Democracia.

- ¿Creen ustedes esto posible a sabiendas del control masivo de las empresas en términos económicos?

Podría existir una especie de lista negra de empresas y países productores que impulsan interferencias en tecnologías de vigilancia.

Delegada Alba - Complejo Preuniversitario Mas Camarena (Valencia).

[15004125-2-Iván-16]

Buenos días, Presidencia y delegados.

Me resulta de gran de interés la línea de debate propuesta por la delegada Alba del Complejo Preuniversitario Mas Camarena de Valencia, pues es un tema que pasa muy inadvertido en la sociedad actual.

Diego Navarro Bonilla argumenta en su estudio Espionaje, seguridad nacional y relaciones internacionales que el big data (sistema empleado en la Inteligencia Artificial para lograr un mejor funcionamiento) ha ampliado el alcance del espionaje tal y como lo conocíamos.

Ante esto, se deben tomar medidas para respetar la privacidad y reducir dicho espionaje, logrando así disminuir las injerencias en las democracias actuales que expuso la mencionada delegada.

Asimismo, me gustaría llevar este tema a un ámbito más pequeño, y reflexionar acerca de cómo las empresas (aparte de a su competencia) espían a sus empleados.

Según el periódico El Confidencial, los grandes negocios controlan el tiempo de los trabajadores e incluso les graban sin su consentimiento. Estos hechos implican obviamente una grave violación a los derechos humanos y se deben tomar medidas al respecto con urgencia.


Iván Gándara: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio Internacional Eirís, A Coruña, Galicia.

Fuentes:

https://www.elconfidencial.com/empresas/2023-06-13/monitorizacion-espanoles-trabajo_3658410/

https://ojs.ehu.eus/index.php/ceinik/article/download/15123/13279

https://opensistemas.com/inteligencia-artificial-y-big-data/#:~:text=La%20IA%20aprovecha%20el%20Big,predictiva%20y%20muchas%20otras%20aplicaciones.

[15015603-2-Diego-437]

Buenas tardes, Presidencia y delegados.

El tema propuesto por Alba, delegada del Complejo Preuniversitario Mas Camarena de Valencia, me parece muy interesante. En mi opinión, sería conveniente una monitorización de las empresas que utilizan la IA. Dicha monitorización se podría implementar a través del acceso de las mismas a los datos personales. Incluso sería posible el cobro por el acceso a los datos, con lo que se conseguiría, por una parte, el seguimiento de las empresas, y por otra una fuente de financiación. Opino que esto no se contrapone con la libertad de empresa, simplemente con el acceso gratuito de las mismas a datos que son personales.

Diego Oizan-Chapon, Comisión de Inteligencia Artificial en la Era Digital
Colegio La Salle, Santiago de Compostela

[15015561-2-Carlota-497]

Buenos días, Presidencia y delegados.

En cuanto al tema propuesto por Alba, delegada del Complejo Preuniversitario Mas Macarena de Valencia, opino que es importante establecer algún tipo de regulación para las empresas, de igual manera que se hace con las de otros sectores como el farmacéutico o el armamentístico. Esto no quiere decir que no pongan sus productos a la venta, es más, no tendría que afectar de ningún modo a sus ventas; solamente deberían de hacer varias pruebas para localizar posibles puntos débiles que alguien podría encontrar y explotar con intenciones poco lícitas y reforzarlos. De este modo la IA en cuestión podría seguir siendo usada sin que ello suponga un gran daño para ningún individuo ni, por extensión, para la sociedad.

Asimismo, la propuesta del delegado Diego Oizan-Chapon del Colegio La Salle de Santiago de Compostela también resulta interesante. El acceso de las empresas a datos personales y privados y su posible uso de forma perjudicial es ciertamente preocupante. A pesar de que en ciertos puntos concuerdo con él, no creo que el cobro del uso de datos sea la solución para este problema, sino la concienciación de los usuarios sobre a lo que dan acceso al entrar en ciertas páginas y un mejor control de los datos personales que se encuentran on-line.

Carlota Ocáriz González, Comisión de Inteligencia Artificial en la Era Digital
Colegio Manuel Peleteiro, Santiago de Compostela

[15015603-2-Diego-437]

Buenas tardes, Presidencia y delegados.

Agradezco a la delegada Carlota Ocáriz González, del Colegio Manuel Peleteiro de Santiago de Compostela, su respuesta a mi mensaje. Quería profundizar un poco más en el porqué de mi propuesta, el cobro de una micro tasa por el uso de datos. Esta idea sería semejante a la tasa Tobin, propuesta en los años 70 por el economista James Tobin, previamente asesor de la administración Kennedy. El objetivo de esta tasa era la prevención de movimientos sospechosos del capital económico, como puede ser el blanqueo. Esto se llevaba a cabo mediante la trazabilidad de las transacciones financieras gracias a la tasa.

El fin de la tasa no era económico, sino preventivo. Cobrar por el uso de datos podría tener la misma función.

Diego Oizan-Chapon González, Comisión de Inteligencia Artificial en la Era Digital
Colegio La Salle, Santiago de Compostela

[28002351-2-Alejandro-418]

Buenas tardes, Presidencia y delegados.

En primer lugar, he encontrado muy interesante e importante el tema propuesto por Alba, delegada del Complejo Preuniversitario Mas Macarena de Valencia, pues a menudo a la hora de hablar sobre la inteligencia artificial y sus avances tendemos a centrarnos en usos más artísticos o educativos de estas herramientas, dejando de lado posibles peligros como los que menciona la delegada. Sin embargo, no considero que estos sean razones suficientes para monitorizar a aquellas empresas que las utilizan, veo más adecuado que una vez se disponga de un reglamento claro y detallado acerca del uso de la inteligencia artificial, toda empresa registre sus modelos en la base de datos de la Unión Europea, junto a un comité el cual discuta diferentes casos de utilizaciones fraudulentas de las ya mencionadas herramientas, con el fin de no limitar la imaginación de las empresas, dentro de lo moral y lo legal.

Alejandro Cordero Marcial, Comisión de Inteligencia Artificial en la Era Digital
Colegio Los Sauces La Moraleja, Madrid