Data 2019/09/26/apunts/01

https://pad.femprocomuns.cat/RW_Data&Labour

SALA 2 DATA & LABOUR: NEW DIGITAL RIGHTS?

Riesgos sobre AI y algoritmos - Karma Peiró

El año pasado colaboré con Algorithm Watch escribiond Automated Decision Making (ADM) Algorithms

pueden decidir por nuestras vidas, si recibes servicos publicos o una morgage, o si consigues un trabajo o no

yo escribí el capítulo de españa, teniendo en cuenta legislación europea

Digital Minds es una empresa Finlandesa que hires employees, ha encontrado una forma de ser más eficiente, piden al candidato el password de sus emails y un algoritmo decide si eres un buen candidato.

Belgica . el servicio publico de empleo

Polonia el ministro intrdocuce ADM que describe unemployed people y asigna caegorias que determinan el tipo de ayuda que pueden recibir.

en España también usan un sistema automaitco para calcular unemployement benefits

Automatic Society Report fue presentado al parlameeuropeo

Quise saber qué tipo de servicios usan este ADM en Cataluña,  estoy haciendo ahora un estudio para ver como se usan los algortimos ahora. he visto que los algoritmos ya estan decidiendo sobre nuestra vida, pueden discriminar cuando vamos a un banco o buscamos trabajo, y es importante detectar y mitigar este bias,  no hay transparencia algoritmia ni responsabilidad algoritmica.

Qué podemos hacer, ser curiosos y ver como funciona y su poder.

Joana Barbany (Generalitat de Catalunya)

Catalonias charterfor Digital Righs andresponsabilities

Estamos en un cambio de era, todo está cambiando, a una velocidad y con una gran magnitud.

No podem ignorar el que va passar al setembre de 2017. Quan es vulnarar els drets dels ciutadans. Això va obrir una reflexió que va portar a la generació de la Carta Catalana per als drets drigitals i responsabilitats

Per la seva configuració es van fer servir actors de la quadrpule hèlix: societat civil, recerca, adminstració pública

Core, peer reviw citizen paticipation (participa.gencat.cat)

5 fases, el lider del proyecto siempre es el core.

La primera version tiene 8 derechos, estamos hablando de Labor digital reighs también.

1. Universal access to the Internet

2. An open and inclusive Internet governance model with multi-stakeholderism

3. Freedom of expression and information

4. Digital innovation, creation, access and distribution of knowledge

5. Data protection and privacy of information

6. Guarantee training and digital inclusion

7. Regarding ethics in the field of artifical inteligence (AI) and algorithmic governance in teh public and private sectors

8. Digital rights protection mechanisms- la administración pública tiene que regular estos nuevos derechos y estmos trabajando en ello

stamos hablando de Labor digital righs también.

Laura Degiovanni (Tiiqu)

fundadora de Tiiqu

El derecho a la libertad es nuestro primer derecho, a reinventarnos, a acceder a oportunidades, a aprender para crear un futuro, y eso esta facilitado por la confianza

la confianza facilita el intercambio deinformación y lo que facilita la confianza es la transparencia.

Nuestra investigación se centro en  como el GDP de paises de africa se multiplicaria por 4 si tuvieran la actitud de Suecia.

Igual la prioridad hoy es acceder a oportunidades globales, pero para ello hay que ser trusted.

La solución para generar este modelo global de confianza transnacional puede ser el uso de la tecnologia blockchain.

A score algorithmicall derived from multiple sources of truth measuring trustworthiness. Immutable proofs of credetnials published on chain, shared via a synchronizable passport.

El blockchain permite compartir la información a nivel global, asegurando el anonimato.

No estás juzgando el individuo pero permites al que hace el decision maker poder hacer esta información

Esta información puede ser compartida en cualquier plataforma asegurando el anonimato pero presentado una información cierta.

de forma que pueda ser compartida entre países.

Laura: El problema es privacidad y globalización, pero hablamos mucho sobre derechos y poco sobre confianza

Cualquier discusión que tengamos ahora queda superada por la velocidad de la evolución que tiene la tecnología

Karma: Por qué tengo que tener confianza con Mark Zuckerberg Facebook?

Laura: Eventos que sean punto de encuentro de debate entre distintos actores que eduquen y que conlleven a debatir sobre los derechos digitals.

Tenemos la responsabilidad de ser transparentes.

Fabian Wallace-Stephens

parece que se trata de los derechos de los ciudadanos, estamos en reshaping work, qué derechos necesitan los trabajdores? cuales son los riesgos para ellos? y la carta de derechos digitales trata estos retos? igual el GDPR necesitamos uno para los trabajadores?

Joana: La carta tiene com a reto generar /incorporar en enero-febrero la paret de derechos digitales de los trabajadores: GDPR, los horarios laborales,

Karma: en 2014 Amazon lanzó un algoritmo para escoger los candidatos, de una a 5 estrellas, un año más tarde se dio cuenta que no havia mujeres, el bigdata se basaba en curriculums que tenían 10 anys, el algoritmo sancionava las mujees.

Otro ejemplo , una empresa de IA crea noticias para los medios. Cada día se incorporan centenares de notícias, algo imposible para un medio actual. Si automatitzamos la creación de notícias, qué haremos con los periodistas? Necesitamos, estoy a favor de la IA pero hay que calcular su impacto, también en el mundo del trebajo.

Pensando en los trabajadores, cuales son los riesgos?

Como seria un sistema de derechos? y cual seria el papel de los sindicatos?

Amazon han estado valorando a sus trabajadores por productividad, y eso afecta a las mujeres embarazadasque no trabajan igual, y está repitiendo prejuicios humanos.

Pregunta: Portabilidad de la evaluación de los trabajadores de una plataforma a otra, no hay un estandar?

Laura- queremos ser juzgados sobre hechos no opiniones.

hoy hay 100M elearners en el mundo, cada uno tiene sus credentials, como puedes estar seguro de que no van a mentir?

Diferencia entre el social score (subjetivo sistema chino) y el objective score (has estudiado en Harvard de tal fecha  a tal fecha)

Se podría certificar la infomación?

La validación un tema complejo. La solución es que cuando termines tu contrato laboral con una compañia pueda transferir a tu llavero la información y que esta información pueda ser certificada y validada para un próximo trabajo.

Public: Meritocracy - se hablaba de esto en la sesion anterior, ver como vuestras perspectivas pueden contribuir a esta conversación sobre el trabajo.

Karma: Es importante crear guias educativas sobre el impacto de la tecnología para todos los campos. Porqué el impacto de la tecnología en al ámbito laboral será brutal.

Laura:  La tecnologia no tiene que estigmatizarnos, si has hecho un error en tu vida tienes que poder corregirlo o volver a empezar de cero y reconstruir tu reputación. El punto no es construir blockchain, el punto es la transparencia cultural.