## Page 1

# Aproximación a la GI desde el derecho y la ética

---

Gestión de la Información
Grado en Ingeniería Informática
Universidad de Burgos

&lt;img&gt;Universidad de Burgos logo&lt;/img&gt;
UNIVERSIDAD
DE BURGOS

José Ignacio Santos, José Manuel Galán
jisantos@ ubu.es, jmgalan@ ubu.es

---


## Page 2

# Introducción

¿Por qué es importante conocer los aspectos éticos y legales de la gestión de la información?

*   ¿Eres responsable de lo que tu software haga si es usado con fines maliciosos?
*   ¿Aceptarías trabajar en una empresa que monitoriza constantemente la actividad de sus empleados?
*   ¿Crees correcto que se pueda patentar un algoritmo o una funcionalidad de software?
*   ¿Cuántas pruebas son “suficientes” antes de poner en producción un sistema crítico?
*   ¿Qué responsabilidad tienen los informáticos en el posible aumento del desempleo por el desarrollo de la IA?

---


## Page 3

# Contenidos

*   Responsabilidad y principios éticos
*   Derecho de información
*   Derecho de privacidad
*   Derecho de propiedad intelectual
*   Calidad de los sistemas
*   Impacto social de las TI

---


## Page 4

# Concepto básicos: responsabilidad

En español utilizamos la misma palabra “responsabilidad” para expresar diferentes conceptos, que en inglés se definen separadamente:

*   **Responsibility**: se refiere a la obligación de realizar una tarea o cumplir una función. Está ligada al ámbito personal o profesional de un individuo (ejemplo: un programador es responsable de escribir un código correcto y documentado)
*   **Accountability**: es la obligación de rendir cuentas por las acciones o decisiones tomadas. Puede recaer en una persona o en una organización, e implica la existencia de mecanismos de supervisión y control (ejemplo: un jefe de proyecto debe justificar ante la dirección el retraso en la entrega de un sistema)
*   **Liability**: hace referencia a la responsabilidad legal o financiera que surge cuando hay daños o perjuicios, y que obliga a reparar o compensar a los afectados (ejemplo: si un software médico falla y provoca un daño a un paciente, la empresa desarrolladora puede ser legalmente responsable)

---


## Page 5

# Análisis ético

Análisis ético en una decisión:
1. Describir los hechos
2. Definir el dilema (conflicto)
3. Identificar a todas las personas involucradas
4. Identificar las opciones
5. Identificar las consecuencias de cada opción
6. Tomar la decisión (de acuerdo a algún principio ético)

Ejemplo: ¿cómo debe actuar un sistema de conducción automática frente a un posible accidente en el que entra en conflicto la vida del conductor y la vida de otras personas (viandantes, ciclistas, otros conductores, ...)?

&lt;img&gt;A white Google self-driving car with "Google" written on its side, driving on a road. The car has a screen displaying a scene with people, trees, and a dog.&lt;/img&gt;

Moral Machine (MIT)
Moral Machine (resultados del estudio)

---


## Page 6

# Principales dilemas éticos, sociales y políticos relacionados con las TI

El desarrollo de las TI (incremento de la capacidad de cómputo, disminución de los costes de almacenamiento digital, avance de técnicas de análisis, vances de redes y comunicaciones, IA, ...) puede generar preguntas éticas. Laudon (2012) las clasifica en estos dominios:

*   Derecho a la información
*   Derecho a la privacidad
*   Derecho de propiedad
*   Calidad de los sistemas
*   Impacto social de las TI

---


## Page 7

# Derecho a la información

Derecho de acceso a la información: derecho a buscar, difundir y recibir información de interés público (e.g. información del gobierno, administración, ...)

*   Libertad de información (UNESCO)

¿Conoces ejemplos donde las TI planten dilemas éticos sobre el derecho a la información?

Un ejemplo, la neutralidad en la red:
“principio por el cual los proveedores de servicios de internet y los gobiernos que regulan Internet deberían tratar a todo tráfico de datos que transita por la red por igual, sin discriminarlo o cobrar al usuario de manera diferente según el contenido, página web, plataforma, aplicación, tipo de equipamiento utilizado para el acceso o modo de comunicación” (wikipedia)
*   ¿Es correcto priorizar el tráfico VPN y P2P por los ISP?
*   ¿y que un operador telefónico abarate el coste de los datos móviles en determinados servicios de mensajería (vodafone)?

---


## Page 8

# Derecho a la privacidad

Derecho a la **privacidad**: “ámbito de la vida privada que se tiene derecho a proteger de cualquier intromisión”

Ejemplos de TI que “cuestionan” el derecho a la privacidad:
*   Cookies, web bugs, spyware
*   Profiling: recoger datos de múltiples fuentes y crear perfiles de individuos que se utilizan con determinados fines comerciales, e.g. Google, Facebook, Tiktok, X, ...
*   Dispositivos IoT y hogares inteligentes
*   Videovigilancia y reconocimiento facial
*   Entornos laborales digitalizados (e.j., monitorización de correos, actividad de la pantalla, ...)
*   Vigilancia estatal (e.j., Pegasus permiten a gobiernos acceder a datos privados con la excusa de la seguridad nacional)

¿De quién son los datos que genera un usuario en aplicaciones, plataformas y redes sociales?

---


## Page 9

# Legislación que protege el derecho a la privacidad

*   **Reglamento General de Protección de Datos (RGPD/GDPR):** norma europea desde 2018 que protege los datos personales con principios como consentimiento explícito, derecho al olvido y fuertes sanciones para las empresas
*   **Ley Orgánica de Protección de Datos Personales y garantía de los derechos digitales (LOPDGDD):** ley española de 2018 que adapta el RGPD e introduce derechos digitales específicos, como la privacidad en redes sociales y el control del uso laboral de datos
*   **Ley de Servicios Digitales (DSA):** reglamento europeo de 2023 que regula las plataformas digitales y los contenidos ilegales, también exige transparencia en algoritmos, moderación de contenidos y tratamiento de datos
*   **Ley de Mercados Digitales (DMA):** reglamento europeo de 2023 que controla a grandes tecnológicas (“gatekeepers”), obliga a compartir datos de forma interoperable y prohíbe prácticas abusivas como el uso combinado de datos sin consentimiento.

---


## Page 10

# GDPR vs Innovación

&lt;img&gt;GDPR logo with stars and lock&lt;/img&gt;

&lt;img&gt;Luis Garicano&lt;/img&gt;
Luis Garicano

Is GDPR undermining innovation in Europe?

Pero conlleva costes:
*   Costes de cumplimiento (consultoría, auditorías, actualización de sistemas)
*   Contratación de DPO (Data Protection Officer)
*   Multas (hasta el 4% de los ingresos globales) si no cumplen con el reglamento
*   Formación a empleados en prácticas de privacidad de datos

Esto ha reducido la inversión en innovación y el crecimiento de nuevas empresas tecnológicas en Europa, especialmente en campos como la inteligencia artificial

---


## Page 11

Ejemplo

&lt;img&gt;A blue Facebook logo with a yellow halo above it, next to a red Facebook logo with devil horns.&lt;/img&gt;

Don't Be Evil

Facebook & Brexit

---


## Page 12

# Propiedad intelectual

La **propiedad intelectual** es cualquier propiedad intangible creada por individuos u organizaciones:

*   La propiedad industrial: creaciones (inventos, patentes, fórmulas, marcas, modelos, ...) que suelen tener una aplicación industrial y comercial que genere valor económico
*   El derecho de autor: creaciones artísticas y literarias (libros, cuadros, música, ...)
    *   Copyright vs derecho de autor: Derechos de autor (=derechos morales + patrimoniales); Copyright (=derechos patrimoniales)

---


## Page 13

# Retos de la propiedad intelectual

## Propiedad industrial ¿se puede patentar software?

En EE. UU. se pueden patentar programas (cumpliendo algunos requisitos), e.j., “ONE-CLICK” de Amazon.

En Europa, el Convenio de la Patente Europea excluye expresamente los programas (excepto que vengan asociados a un efecto técnico adicional)

## Derechos de autor y derechos de copia privada

El derecho de autor es un derecho fundamental reconocido en la constitución que protege la autoría.

En España están permitidas las copias privadas sin autorización del autor siempre que sea para uso privado, se tenga acceso al original y no se utilice con fines colectivos ni lucrativos. A cambio se paga un canon

En un estudio de Cammaerts y Meng se evidencia que la piratería no explica la caída de las ventas de la industria audiovisual

---


## Page 14

# Calidad de los sistemas

## Calidad de los sistemas

Todo desarrollo software es fruto de un proceso iterativo de prueba y error, pero ¿cuándo considerar que un producto software está suficientemente probado para ser vendido?

Si el software falla y causa daños, ¿quién responde?
*   El programador individual (responsibility)
*   La empresa desarrolladora (accountability)
*   Los propietarios del software (liability).

&lt;img&gt;Berlín capital de la Antártica (Apple maps, 2012)&lt;/img&gt;

---


## Page 15

# Ejemplos de fallos de software y consecuencias

*   Caso Ariane 5 (1996): error en la conversión de datos provocó la explosión del cohete
*   Therac-25 (años 80): máquina de radioterapia que por error de software expuso a varios pacientes a sobredosis letales de radiación
*   Bug del Banco TD (2009): error en el sistema informático dejó a 6,5 millones de clientes sin acceso a sus fondos
*   Accidentes con coches autónomos (Tesla, Uber): fallos de detección de obstáculos y peatones en pruebas de conducción autónoma.
*   Problemas de ciberseguridad (Equifax 2017): brecha de datos por no actualizar a tiempo una librería de software deja datos de 147 millones de personas expuestos.

... [List of software bugs (wikipedia)](https://en.wikipedia.org/wiki/List_of_software_bugs)

&lt;img&gt;A person wearing headphones sits at a desk with a computer monitor displaying code. Behind them, a large explosion with bright orange flames and sparks radiates upwards against a dark sky. The scene suggests a dramatic event related to software.&lt;/img&gt;

---


## Page 16

# Impacto social de las TI

## Impacto social de los sistemas

1.  Vulnerabilidad de la sociedad a fallos en los SI: “Is Google making us stupid?”
2.  Destrucción de empleo y desigualdad: una parte importante de la opinión pública señala el peligro de destrucción de puestos de trabajo por el desarrollo de las TI

&lt;img&gt;A man with white hair and glasses, looking serious.&lt;/img&gt;
SUCCESS · FUTURE OF WORK
Silicon Valley billionaire Vinod Khosla says AI will handle 80% of work in 80% of jobs
BY ORIANNA ROSA ROYLE
September 24, 2024 at 1:23 PM GMT+2 &lt;img&gt;Share icon&lt;/img&gt;

&lt;img&gt;A man with glasses, smiling.&lt;/img&gt;
Don’t Believe the AI Hype
May 21, 2024 | DARON ACEMOGLU
If you listen to tech industry leaders, business-sector forecasters, and much of the media, you may believe that recent advances in generative AI will soon bring extraordinary productivity benefits, revolutionizing life as we know it. Yet neither economic theory nor the data support such exuberant forecasts.

Ludismo: opinión en contra de las máquinas y cualquier avance técnico que empeore las condiciones de los trabajadores (salarios, empleo,...)

---


## Page 17

# Anexo: dilemas éticos de la IA

La Comisión Europea elabora la estrategia sobre el desarrollo y las aplicaciones de la IA en Europa

Existe una comisión “European Commission’s High-Level Expert Group on AI (AI HLEG)” que ha propuesto una guía ética sobre una “Trustworthy AI” basada en “(1) human agency and oversight, (2) technical robustness and safety, (3) privacy and data governance, (4) transparency, (5) diversity, nondiscrimination and fairness, (6) environmental and societal well-being, and (7) accountability”

Ethics guidelines for trustworthy AI

&lt;img&gt;A graphic with a dark blue background featuring a network-like pattern. In the center, there is a circle composed of yellow stars, similar to the European Union flag. The letters "AI" are prominently displayed in the middle of this circle. The overall design suggests a connection between AI and the EU.&lt;/img&gt;