El problema no son los niños, sino el modelo de negocio.
Joan Barata, experto en libertad de expresión y regulación de medios de comunicación, consultor jurídico sénior de The Future of Free Speech. Barata es profesor visitante en la Faculdade de Direito – Universidade Católica Portuguesa y miembro del Center for Law, Democracy and Society de la Queen Mary University de Londres
Esther Sauri esther@gataca.io
Gataca trabajamos en verificación de edad anónima, actualmente para porno y somos los únicos con el ok de la AEPD
Todo apunta a que España seguirá el camino de países como Francia, que han anunciado el uso de sus carteras europeas de identidad digital para la verificación de edad.
En el caso español, esta función estaría ligada a la Cartera Digital Beta impulsada por el Gobierno.
En Gataca somos expertos en carteras de identidad digital y nuestra solución de verificación de edad está ligada a este método (con nuestra propia cartera o las gubernamentales que están saliendo al mercado bajo la regulación eIDAS) oa estimación facial como método alternativo.
Ambas opciones completamente anónimas por lo que estaríamos encantados de explicar cómo funcionan y sobretodo aclarar las dudas que más vemos de los usuarios respecto a privacidad, datos y trazabilidad.
Una chica consulta su ‘smartphone’. / JM García / EFE
Prohibición como medida para preservar la soberanía cognitiva de los menores
Pedirle a los adolescentes que se autocontrolen frente a un algortimo diseñado para explotar su cerebro es una batalla perdida de antemano
Estudio que indica que el mal uso de la IA generativa lleva a los usuarios a un deterioro de sus facultades cognitivas, a reducir el esfuerzo mental ya que tengan menos confianza en sus respuestas
“Cuanto más confías en la IA, menos confías en tu propio criterio” – Pep Martorell
https://dl.acm.org/doi/10.1145/3706598.3713778
“Mientras los gobiernos europeos se apresuran a prohibir las redes sociales para los menores de 15 o 16 años, la notificación de la Comisión a TikTok apunta al problema central. El problema no es la edad de los niños, sino el diseño de la plataforma. Las características dañinas y el monopolio son lo que hay que corregir. Hacer cumplir las herramientas existentes, como la Ley de Servicios Digitales, es el único camino creíble hacia una Internet más segura, tanto para jóvenes como para adultos. La Comisión debe mantener la línea y llevar esto a cabo.” dijo Marc Damie, portavoz de Ctrl+Alt+Reclaim Francia
Alberto Casaseca
Abogado especializado en protección de datos personales, ciberseguridad, derecho digital e inteligencia artificial.
Delegado de Protección de Datos y de Gobierno de la IA del Grupo Clece
Es una propuesta controvertida con aristas legales complejas
Tipificar penalmente la manipulación algorítmica y la amplificación intencionada de contenidos ilegales
Responsabilidad penal de los CEOs por no actuar debidamente contra ese contenido de odio
Viabilidad jurídica
Al ser una modificación del código penal debe aprobarse por mayoría parlamentaria (complicado)
En España la responsabilidad penal requiere que sea causal y sujetiva, eso es que se debe demostrar que el sujeto actúa sabiendo el resultado o de forma negligente.
Los CEOs no se puede entender que tengan un control directo sobre los algoritmos, lo que supone que es difícil de aplicar de encuadrar como delito
Si se aprueba un régimen penal nacional eso puede entrar en conflicto con la DSA por la armonización europea
Se retira material ilegal muchas veces de forma automatizada (algoritmos caja negra difíciles de entender, si no hay transparencia no se puede acreditar que el CEO decida mantener contenidos ilegales)
Lo que pasó con Pável Dúrov en Francia es que se provó es que se vio en Telegram actividades delictivas ya tipificadas y hubo una negativa clara a cooperar con las autoridades. En Francia no hay algo así. Caso radicalmente distinto.
Responsabilidad penal de los administradores desde 2014 en España se aprueba
En el mundo no hay ninguna legislación que impute al director de una plataforma por el contenido
Muy complicado de aplicar
Tendría que poner pie en España o emitir orden internacional, complicado
Leyes de EEUU son extraterritoriales, es decir aplica a sus filiales en UE, muy difícil poner trabas a eso desde la legislación europea
Contrapeso DSA ya establece sanciones administrativas (NO sanciones penales)
Es una medida un tanto efectista pues es difícil que se pueda materializar
Compañías SV ya contemplan sanciones administrativas en sus (a Meta le sale más a cuenta pagar sanciones que se adaptan a las leyes europeas, es un “gasto más”) Es el efecto que se pretende lograr con la responsabilidad penal
¿Qué puedes hacer en Europa? Hemos perdido la soberanía digital y tenemos una dependencia absoluta. La solución seria crear una plataforma controlada por entidades europeas y sujetas al derecho europeo.
Alternativa europea a dependencia de SV
Que los datos estén en servidores europeos no garantiza que la ley extraterritorial de EEUU les permita acceder a ellos
Jacobo Dopico, Catedrático de Derecho Penal UC3M
Fuera del registro
ENVIAR-LI CITA INDIRECTE PER SI L’APROVA
Se puede – Cuando hablas de monstruos empresariales es muy, muy difícil de aplicar
Si hay una notificación al CEO y si hay una negativa reiterada entonces puede haber una responsabilidad penal
Pues mandar una orden y sancionar en caso de desobediencia
Qué pasa cuando se trata de una web radicada en EEUU
Es más complejo que ir a por Musk
Se puede sancionar una desobediencia en la retirada de contenidos
El problema es que todo lo que ha intentado la UE para que X colabore no ha funcionado
O cuentas la colaboración de EEUU o si pone el pie en Francia pues quizás se podría por cooperación entre jurisdicciones de la UE
Siempre ha habido problemas por atribución concreta de responsabilidades
Estamos en estado de guerra, pero si hay alguien que se declara como enemigo.
!!! El problema que estamos teniendo es la falta de colaboración de estados como Rusia, India y ahora EEUU
La ley de sociedad de la información puede emitir órdenes de retriada de contenido de webs, si la desobediencia es grave y reiterada puede haber un delito penal.
O es un primer paso que siguen otros países de la UE o entonces decide que nunca habrá responsabilidades personales
Situación es una encerrona y solo se puede salir de forma coordinada porque son monstruos con mucho más poder que países como Polonia.
