IAG Pluriétnica y multicultural

Introducción

Guiado por principios inspirados en las Leyes de la Robótica de Asimov, la inteligencia artificial (IA) debe priorizar la humanidad, la protección del medio ambiente, la beneficencia, la no discriminación, la transparencia, la autonomía humana y la defensa de los derechos humanos. Las diferencias culturales y legales locales plantean desafíos para la promoción global de los derechos humanos. Con el fin de abordar esto, Wikimedia Colombia llevó a cabo un análisis de la participación voluntaria, las contribuciones y la representación en plataformas digitales, identificando brechas y sesgos que afectan particularmente a las mujeres, las comunidades indígenas y las poblaciones marginadas. Comprender la dinámica de la IA y prevenir la perpetuación de estas brechas es crucial. La misión de Wikimedia busca desarrollar sistemas de IA imparciales a través de programas en Educación, Cultura, Género y Comunidad, amplificando las voces históricamente marginadas, especialmente en Colombia. El objetivo es crear un espacio colaborativo que abrace la diversidad, establezca consensos y prevenga la violencia estructural. Por eso hemos decidido trabajar en la siguiente pregunta:

¿Qué principios deberían guiar a la IA al tratar temas que involucren tanto los derechos humanos como las diferencias culturales o legales locales, como los derechos LGBTQ y los derechos de las mujeres? ¿Deberían cambiar las respuestas de la IA según la ubicación o cultura en la que se utilice?

La amplia participación política implica la participación ciudadana en los procesos de toma de decisiones que regulan la sociedad. Nuestro trabajo tiene como objetivo permitir que diversas personas de la Universidad Nacional de Colombia (UNAL) y sus sedes nacionales contribuyan a la regulación de la IA. Es crucial incluir diferentes perspectivas, intereses y diversidad moral para comprender la relevancia de la IA en diversos contextos. Los procesos de colaboración transparentes son necesarios, enfatizando objetivos y metodologías claros. La revisión y evaluación continua son esenciales para comprender la interacción humana y abordar los desafíos sociales. Participar en discusiones abiertas nos permite construir debates y tomar medidas, llegando a una audiencia amplia y diversa para abrazar la heterogeneidad.

La regulación proporciona una plataforma más amplia y de mayor impacto para proponer, discutir y legitimar ideas. Al incluir voces, espacios de discusión y contribuciones, podemos garantizar la escalabilidad y realizar cambios significativos en las estructuras existentes. Los principios rectores deben integrarse en el desarrollo de sistemas de IA, imponiendo restricciones necesarias en la implementación del código.

La Universidad Nacional de Colombia (UNAL) representa un alcance territorial y diverso con nueve sedes en las cinco regiones naturales del país. La UNAL ha realizado esfuerzos significativos para matricular estudiantes de 82% de los municipios del país, incluyendo aquellos que enfrentan dificultades socioeconómicas y comunidades étnicas. Programas especiales de admisión como PAES y PEAMA han brindado oportunidades a personas de comunidades indígenas (228 admisiones), la población afrocolombiana (164 admisiones) y estudiantes de PEAMA (668 admisiones) en el primer semestre de 2023. El compromiso de la universidad con la inclusión también se evidencia con al menos seis personas que se identifican como transgénero.

Realizar ejercicios de aprendizaje colectivo con comunidades ayuda a desarrollar nuevas técnicas de aprendizaje automático. Experimentar con la interacción en diversos contextos sociales, culturales y étnicos permite adaptar el procesamiento del lenguaje a las culturas locales. Además, promover la diversidad en los laboratorios de desarrollo, tanto en términos de género como de antecedentes culturales, es crucial para responder de manera efectiva a los desafíos globales. La inclusión asegura la consideración de diversas perspectivas, evitando sesgos y brechas en los sistemas de IA.

Objetivos

Objetivo general

Formular recomendaciones para el entrenamiento de la Inteligencia Artificial General (AGI) del Chat GPT sobre regulación, toma de decisiones y generación de respuestas que se adapten, representen y no reproduzcan violencias culturales, de género o de representatividad, inspirados en la experiencia de construcción de consensos de la comunidad Wikimedista, a partir de la Recolección y análisis de percepciones, en Colombia, durante la interacción de la comunidad universitaria de la Universidad Nacional de Colombia en sus nueve sedes repartidas en el territorio.

Objetivos específicos

Diseñar e Implementar una estrategia de recolección de percepciones, basados en la experiencia de construcción de consensos de la comunidad wikipedista en la interacción de la comunidad académica en las nueve sedes de la UNAL con la Inteligencia Artificial General.
Sistematizar y Validar la información y datos recolectados en los ejercicios de interacción de comunidad universitaria de todas las Sedes de la UNAL con la Inteligencia Artificial Generativa.
Generar recomendaciones para entrenar la IAG en regulación para la toma de decisiones del ChatGPT en temas y formas de responder y generar contenidos que se adapten, representen y no reproduzcan violencias culturales, de género o de representatividad.

Especificaciones técnicas

Enfoques

Género. Resalta las relaciones de inequidad entre los géneros y propende por una visibilización, participación y empoderamiento de las mujeres, que rompen los cercos en la vida pública y privada, dando la posibilidad de una relación simétrica entre hombres y mujeres.
Diversidad (Pluriétnico y multicultural). Reconocer y proteger la diversidad étnica y cultural, así como resaltar los aportes culturales y sociales de las comunidades étnicas a la sociedad.
Territorial. Se debe reconocer las oportunidades y resignificados de los territorios en cada uno/a de los/as participantes, Por eso, la metodología y actividades deben brindar herramientas a las comunidades, para implementarlas con pertinencia y éxito en sus entornos específicos, sin dejar de lado las dinámicas que ya están instauradas.
Acción sin daño. Busca promover la dignidad y autonomía de las comunidades a partir de una intervención ética que respete costumbres e intereses de sus territorios.

Sedes de trabajo y muestra de participantes

Se trabajará con las nueve sedes de la Universidad Nacional de Colombia, y se alcanzará una muestra de 500 estudiantes en total.

SEDES DE TRABAJO Y MUESTRA DE PARTICIPANTES
SEDE	UBICACIÓN	ESTUDIANTES ADMITIDOS POR SEDE	MUESTRA
Sede Amazonia	Leticia – Amazonas	145	40
Sede Bogotá	Bogotá – Cundinamarca	4369	110
Sede Caribe	San Andrés - Archipiélago de San Andrés, Providencia y Santa Catalina	55	25
Sede De la Paz	La Paz – Cesar	164	45
Sede Manizales	Manizales – Caldas	749	65
Sede Medellín	Medellín – Antioquia	2007	75
Sede Orinoquía	Arauca – Arauca	233	45
Sede Palmira	Palmira – Valle del Cauca	348	50
Sede Tumaco	Tumaco – Nariño	190	45
Totales		8260	500

Equipo de trabajo

Coordinación: Encargado de coordinar las actividades logísticas, académicas y administrativas del proyecto.
1. Coordinador/a general. (1)
2. Coordinador/a administrativo/a y /a logístico/a (1)
3. Coordinador/a de procesos democráticos (participación, género y territorial) (1)
4. Coordinador/a Recolección y sistematización de datos. (1)
Equipo Base: Encargado de realizar las actividades logísticas, labores administrativas, acciones de comunicación, diseños metodológicos y acompañamiento a las actividades.
1. Profesional Psicosocial (1)
2. Profesional en Diseño gráfico (1)
3. Profesional en Comunicación Social (1)
4. Profesional en Agronomía, Veterinaria y afines (1)
5. Profesional en Bellas Artes (1)
6. Profesional en Ciencias de la Educación (1)
7. Profesional en Ciencias de la Salud (1)
8. Profesional en Ciencias Sociales y Humanas (1)
9. Profesional en Economía, Administración, Contaduría y afines (1)
10. Profesional en Ingeniería, Arquitectura Urbanismo y afines (1)
11. Profesional en Matemáticas / Ciencias Naturales (1)
12. Profesional en Estadística y analitica de datos (2) (Interdisciplinar) al menos UNO que sea expertx en ChatGPT
13. Profesional en Derecho/Políticas (2) ( abogado/a con experticia marcos regulatorios, DDHH de 4G)
14. Técnico Administrativo (1)
15. Técnico logístico (1)
Equipo de Apoyo: Serán aquellos/as estudiantes vinculados/as para actividades logísticas en cada una de las sedes.
1. Estudiante de Posgrado (maestría) coordinador/a Sedes
2. Estudiante Sede Palmira + 5 estudiantes auxiliares x 2 días
3. Estudiante Sede La Paz + 5 estudiantes auxiliares x 2 días
4. Estudiante Sede Bogotá + 5 estudiantes auxiliares x 2 días
5. Estudiante Sede Manizales + 5 estudiantes auxiliares x 2 días
6. Estudiante Sede Caribe + 5 estudiantes auxiliares x 2 días
7. Estudiante Sede Amazonas + 5 estudiantes auxiliares x 2 días
8. Estudiante Sede Orinoquia + 5 estudiantes auxiliares x 2 días
9. Estudiante Sede Medellín + 5 estudiantes auxiliares x 2 días
10. Estudiante Sede Tumaco + 5 estudiantes auxiliares x 2 días

Fases de implementación

Fase 1. Alistamiento

Comprende los procesos administrativos para selección y vinculación de personal, el diseño y aprobación de los enfoques metodológicos para el desarrollo del trabajo, así como la consolidación de la ruta de trabajo a seguir mediante el diseño de cronograma de trabajo y definición de lugares de intervención.

Conformación de Equipos Locales.

Convocatoria y selección. Estudiantes auxiliares de todas las Sedes de la Universidad Nacional de Colombia. Cantidad. Uno/a (1) por cada sede, total nueve (9) + uno/a para coordinación de estudiantes auxiliares. asimismo contarán con cinco (5) estudiantes auxiliares adicionales por cada sede (total 45) que participaran por dos días (día 1. acondicionamiento de espacios y día 2, sesión de interacción en su sede). Rol. Facilitadores logísticos en cada una de las sedes. Formación. dos (2) sesiones de inducción para Fortalecer habilidades y conocimientos en ChatGPT con estudiantes seleccionados/as.

Actividades Administrativas

Contratación de Equipo de Trabajo.
Convocatoria de Equipos Locales, con apoyo de cada una de las sedes . (Estudiantes Sedes)
Selección de Estudiantes Auxiliares.
Publicación de resultados de selección de estudiantes auxiliares.
Compra y alquiler de elementos para desarrollo de sesiones.
Reserva de tiquetes y hoteles.
Entrega de kit de identificación a todos los equipos de trabajo. (escarapela, camiseta y gorra)

Actividades Logísticas

Identificación de Espacios para desarrollar las actividades en cada Sede
Apartar espacios para desarrollar las actividades en cada sede.
Acondicionamiento de espacios en cada sede para la experiencia de interacción.
Diseño de Estrategia de difusión, convocatoria e inscripción.
Diseño de Piezas Gráficas.

Actividades Metodológicas

Diseño de Propuesta metodológica para el desarrollo de sesiones de interacción.
Diseño de Cronograma de trabajo.
Diseño de Estrategia de acompañamiento Psicosocial.
Diseño de protocolo de interacción.
Diseño de protocolo de acompañamiento psicosocial en sesiones de interacción.
Diseño de sesiones de transferencia de capacidades alfabetización digital básica.
Diseño de estructura de formación de estudiantes auxiliares
Formación de estudiantes auxiliares.

Actividades Recolección y Sistematización de Datos

Diseño de metodología de recolección de datos.
Diseño de instrumentos de recolección de información

Productos y resultados fase 1

Contratos de equipo de trabajo.
Documento de Vinculación de equipos locales
Estrategia de difusión, convocatoria e inscripción.
Piezas Gráficas.
Propuesta metodológica para el desarrollo de sesiones de interacción.
Cronograma de trabajo.
Estrategia de acompañamiento Psicosocial.
Protocolo de interacción enfocado a la experiencia de usuario.
Protocolo de acompañamiento psicosocial en sesiones de interacción.
Estructura de formación de estudiantes auxiliares.
Metodología de recolección de datos.
Instrumentos de recolección de información.

Fase 2: Diseño de preguntas y situaciones guía

Las preguntas guía y situaciones temáticas permitirán encontrar las sensibilidades presentes en las conversaciones de los usuarios con el ChatGPT, en términos de representatividad, adaptación cultural, reproducción de violencias, entre otras. Desde una aproximación interdisciplinar e intercultural, se diseñan y pilotean algunas preguntas guía que puedan propiciar conversaciones y generación de contenidos que reflejen los elementos para el análisis de contenidos.

Se desarrollará en los siguientes pasos:

Paso 1 - Adaptación a chat GPT - o alternativa de emulación
Paso 2 - Conformación del equipo interdisciplinar e intercultural
Paso 3 – Investigación preliminar – Breve estado del arte.
Paso 4 - Definición propósitos de las preguntas y situaciones.
Paso 5 -Definición de Tipos de preguntas y situaciones.
Paso 6 - Establecer Orden de Preguntas y situaciones.
Paso 7 - Diseño batería de preguntas y situaciones.
Paso 8 - Piloto de la interacción de las preguntas y situaciones.
Paso 9 - Evaluación, comprensión y perspectiva de respuestas frente a lo esperado.
Paso 10 - Análisis de contenidos preliminar y resultados del piloto.
Paso 11 - Refinamiento de las preguntas de ignición para la implementación.

Productos fase 2

Batería de preguntas y situaciones para sesiones de interacción con ChatGPT
Documento que consolide la experiencia de co-creación y co-diseño intercultural. (Reporte científico)

Fase 3: disfusión, convocatoria e inscripción

Difusión. Para la comunidad en general. Canales de Difusión: Redes Sociales, UNIMEDIOS unidad de medios de la UNAL, correos masivos.
Convocatoria. Con la comunidad de la UNAL para que conozca y se vincule a las actividades del proyecto. Invitación directa y por conveniencia (correo electrónico y vía telefónica) a comunidades étnicas, LGBTIQ+, grupos: universitarios, culturales, deportivos y de investigación.
Inscripción. virtual y físico. En cada sede el/la estudiante auxiliar deberá establecer al menos tres (3) jornadas de inscripción e información.
Formulario virtual y físico, debe contener los siguientes ítems:
1. Nombres y apellidos
2. Tipo de documento de identidad
3. Número de documento de identidad
4. Edad
5. Género
6. Ciudad/municipio de residencia
7. Departamento de residencia
8. Teléfono de contacto
9. Correo electrónico personal
10. Pertenencia a un colectivo u organización comunitaria (identificar a cuál)
11. Pertenencia étnica (afro, indígena, mestizo, ROM, Raizal o ninguno)
12. Si es víctima del conflicto o se encuentra en proceso de reincorporación, reinserción o reintegración
13. Si presenta algún tipo de Discapacidad (sensorial, física o motora, psíquica, intelectual)
14. Autorización de manejo de datos
15. Compromiso de quien se inscribe por participar de las actividades. – en caso de menores de edad, se requerirá consentimiento informado por parte de acudiente o cuidador/a.
16. OTRO. los demás ítems que se consideren
Selección de participantes a sesiones de interacción con ChatGPT con criterios de priorización: identidad de género, enfoque diferencial (mujer), Étnico, Racial, Representación de diversidades.
Confirmación de seleccionados/as. A través de correo electrónico, mensaje de difusión de whatsapp y llamada telefónica.

Productos fase 3

Base de inscritos/as Base de participantes selecionados/as Soportes de confirmación de seleccionados/as

3.4. FASE 4: IMPLEMENTACIÓN DEL EJERCICIO DE INTERACCIÓN DE USUARIOS CON EL CHATGPT

De manera preliminar al desarrollo del ejercicio de interacción se realizará un proceso Transferencia de Capacidades con el fin de dar a conocer el tipo de tecnología y herramientas a usar.

3.4.1. Dirigidas a: Participantes inscritos/as en cada una de las sedes de la unal. 3.4.2. Modalidad: Virtual (dos sesiones) y Presencial (una sesión que se desarrollara antes de sesiones de interacción) 3.4.3. Número y contenidos de las sesiones: Tres (3) sesiones. 1. Introducción a la Inteligencia artificial. 2. Herramientas digitales. 3. Aproximación a Chat GPT (Presencial). 3.4.4. Duración de Cada Sesión. Una (1) Hora Académica 3.4.5. Equipo a cargo: profesionales de áreas del conocimiento 3.4.6. Cantidad: 17 grupos de hasta 30 personas para las sesiones virtuales. La sesión presencial tendrá el mismo número de personas seleccionadas por sede y se desarrollará el mismo día de las sesiones de interacción. Por su parte los espacios de interacción tendrán las siguientes características técnicas:

a. Espacios de trabajo. Se establecen los lugares de trabajo con conexiones eléctricas suficientes y acceso a red wifi Computadores de escritorio, Laptop, Tablet, smartphone.

b. Alimentación. Refrigerio para cada participante (550), estación de agua y café en cada sesión.

c. Kit por participante: Agenda, Esfero y Manilla (550). (opción gorra)

d. Equipos de Facilitación. Tres (3) profesionales (dos de núcleos de conocimiento y uno/a en Estadística) + Un (1) estudiante auxiliar de Sede. + 5 Estudiantes por sede

Nota 1: Para las sesiones en las sedes Manizales y Medellín viajarán además el/la coordinador/a logístico/a y el/la Coordinador/a Recolección y sistematización de datos, es decir un equipo de cinco (5) profesionales. Nota 2: A cada profesional se le entregarán $120.000 diarios para viáticos y transporte. Nota 3. A la Sede Palmira asistirá un profesional adicional para un total de cuatro (4) profesionales.

3.4.11. Entrada a cada Sede. Ocho (8) Entradas a las Sedes de presencia regional. Una (1) en Sede Bogotá.

Nota 4. Cada equipo de facilitación irá a dos sedes y todos los equipos tendrán disponibilidad para participar de la sesión de interacción en sede Bogotá.

3.4.12. Duración Entrada a cada Sede de presencia nacional. Tres (3) días (día 1. llegada, día 2. sesión de interacción, día 3. salida)

3.4.13. Duración de sesiones de interacción. Dos (2) a cuatro (4) Horas

3.4.14. Protocolo de Interacción. Se establece un protocolo de ingreso a la conversación, haciendo uso de las preguntas guías, y sistematizando la descarga de conversaciones de los/as usuarios/as.

3.4.15. Protocolo de acompañamiento psicosocial. Se establece un protocolo de espacios seguros, que permita acompañar situaciones de atención inmediata a usuarios y usuarias que por cualquier razón se sientan vulnerados.

PRODUCTOS FASE 4

Descarga y organización de documentos de conversaciones e interacción con el ChatGPT

3.5. FASE 5: RECOLECCIÓN DEL MATERIAL GENERADO, ORGANIZACIÓN DE LA INFORMACIÓN Y ANÁLISIS DE CONTENIDOS.

Identificar patrones, tendencias y relaciones significativas en las conversaciones con el objetivo de establecer necesidades y oportunidades en las sesiones de interacción con ChatGPT.

Se desarrollará a través de las siguientes actividades:

i. Diseño de instrumento para recolección de datos (Diseñado en la Fase 1) Estrategias de recolección de datos. Reporte de chat, entrevista, grupo focal. Limpieza y validación de datos. fiabilidad de la información Organización y registro de datos. Acceso a la información Codificación de nodos y categorización. Evitar sesgos y distorsiones. Generación de tendencias. Minería de datos. patrones, tendencias y relaciones significativas Análisis de datos (Método de análisis de contenidos Bardin (1996). Interpretación y Presentación de resultados

PRODUCTOS FASE 5

Documento que sintetiza los resultados con la siguiente estructura: resumen ejecutivo, descripción de la metodología usada, resultados, análisis en interpretación, conclusiones y recomendaciones.

3.6. FASE 6 VALIDACIÓN

Implementar espacios deliberativos de ciudadanos y ciudadanas usuarias del ChatGPT en los que se incentive el debate sobre los valores, principios orientadores, riesgos y potencial a futuro de la GIA, tras su interacción guiada con el ChatGPT, que permitan lograr consensos sobre su uso mediante la metodología de la democracia directa. Se desarrollará a través de las siguientes actividades: Diseño de la metodología de democracia directa. (Se espera que el grupo llegue a 1 idea regulatoria o de valores consensuada) Selección de participantes, con criterio de representatividad. Socialización de la metodología de la democracia directa y el consenso. Implementación de la metodología de democracia directa Recolección de información de las interacciones y la idea o valor regulatorio. Análisis de resultados. Documentar resultados y conclusiones.

PRODUCTOS FASE 6

Documento que consolida la metodología usada, resultados, conclusiones y recomendaciones.

3.7. FASE 7: GENERACIÓN DE RECOMENDACIONES PARA UNA NORMATIVA DE REGULACIÓN Y DE POLÍTICA PÚBLICA.

Objetivo. Elaborar un informe con recomendaciones para la regulación del ChatGPT basado en la información recolectada sobre las interacciones de las personas participantes y los espacios deliberativos, tras las interacciones con el ChatGPT.

Actividades: Conformación de un equipo interdisciplinar, con conocimientos avanzados en materia de defensa de derechos humanos, derechos humanos de cuarta generación, y normativa anti-discriminación. Transferencia de los resultados y reportes del análisis de datos y contenidos de las fases 5 y 6 al equipo de regulación. Entrevistas semiestructuradas a profesionales del equipo base. Sistematización de las entrevistas. Análisis de los reportes y entrevistas a la luz de la regulación nacional e internacional vigente. Elaboración del reporte de recomendaciones.

PRODUCTO FASE 7

Informe que recoja las principales recomendaciones para el entrenamiento de la Inteligencia Artificial General (AGI) del Chat GPT, y las lecciones aprendidas tras la ejecución del proyecto.