| <!DOCTYPE html> |
| <html> |
| <head> |
|
|
| <meta charset="utf-8" /> |
| <meta name="viewport" content="width=device-width" /> |
|
|
| <title>EDIA</title> |
|
|
| <link rel="stylesheet" href="style.css" /> |
| <script src="languages/es.js"></script> |
| <script src="languages/en.js"></script> |
| <script src="links/es.js"></script> |
| <script src="links/en.js"></script> |
| <script type="text/javascript" src="javascript/index.js"></script> |
|
|
| </head> |
|
|
| <body> |
|
|
| <header id="head-flex-container"> |
|
|
| <div id="title-container"> |
| <h1 id="name">EDIA</h1> |
| <h2 id="subname">Estereotipos y Discriminaci贸n en Inteligencia Artificial</h2> |
| </div> |
| <button id="translate" onclick="translatePage()"><img id="flag-translate" src="images/united-states.png" alt=""> English</button> |
| |
| </header> |
|
|
| <section id="description-container"> |
|
|
| <p id="intro_1">Los modelos de lenguaje y las representaciones de palabras obtenidas con aprendizaje automatizado han demostrado contener estereotipos discriminatorios. Aqu铆 presentamos un conjunto de herramientas de inspecci贸n: EDIA (Estereotipos y Discriminaci贸n en Inteligencia Artificial). El objetivo de este proyecto es dise帽ar y evaluar una metodolog铆a que permita a comunidades de ciencias sociales y personas expertas de dominio en Latinoam茅rica, explorar sesgos y estereotipos discriminatorios presentes en word embeddings y modelos de lenguaje. Tambi茅n les permite definir el tipo de sesgo a explorar y acercarse a un enfoque interseccional desde dos dimensiones binarias de an谩lisis (por ejemplo, <i>mujer-hombre</i> vs <i>gordo-flaco</i>).</p> |
| <p id="intro_2">EDIA contiene diversas herramientas que sirven para detectar e inspeccionar sesgos en sistemas de procesamiento de lenguaje natural basados en modelos de lenguaje o word embeddings. Contamos con modelos en espa帽ol e ingl茅s para trabajar y explorar los sesgos en diferentes idiomas a requerimiento de las personas usuarias. Cada una de las siguientes herramientas son funciones distintas que nos acercan a un aspecto particular de la problem谩tica del sesgo y a la vez, nos permiten entender partes diferentes pero complementarias del mismo.</p> |
|
|
| <a class="button" id="tutorial" target="_blank" href="https://www.youtube.com/watch?v=rNgRpVVoObo&list=PLbLfQihdfnFadUhYtXt5wAYFaKqabkmyZ&index=7&ab_channel=SADAFArgentina">Video presentaci贸n de EDIA</a> |
| |
| </section> |
|
|
| |
| <section id="cards-container"> |
|
|
| <div class="card" id="word-bias-card"> |
| <h3 id="word-bias-title">Sesgos en listas de palabras</h3> |
| <div class="card-description-flex-container"> |
| <p id="word-bias-description">Basada en una t茅cnica para detectar sesgos en WE, esta funci贸n nos permite visualizar la distribuci贸n de palabras en un espacio 2D y con ello observar la distancia entre ellas. Entre m谩s contextos de ocurrencia compartan, estar谩n m谩s cerca, y entre menos contextos de ocurrencia compartan, estar谩n m谩s lejos. Esto, generalmente, hace que las palabras con un significado parecido aparezcan cercanas. A partir de la creaci贸n de listas de palabras que nos sirven para definir campos sem谩nticos, podremos observar sesgos y explorar palabras vecinas entre esos significados.</p> |
| <div class="buttons-flex-container"> |
| <a class="button demo" id="word-bias-demo" target="_blank" href="https://huggingface.co/spaces/vialibre/edia_we_es">Demo</a> |
| <a class="button tuto" target="_blank" id="word-bias-tutorial" href="https://www.youtube.com/watch?v=hzJB636movU">Tutorial: Explorar listas de palabras</a> |
| <div class="divided-buttons-flex-container"> |
| <a class="button manual" id="word-bias-manual-1" target="_blank" href="https://shorturl.at/cgwxJ">Manual:<br>Explorar listas de palabras</a> |
| <a class="button manual" id="word-bias-manual-2" target="_blank" href="https://shorturl.at/htuEI">Manual:<br>Explorar sesgos en listas</a> |
| </div> |
| </div> |
| </div> |
| </div> |
|
|
| <div class="card" id="phrase-bias-card"> |
| <h3 id="phrase-bias-title">Sesgos en frases</h3> |
| <div class="card-description-flex-container"> |
| <p id="phrase-bias-description">Aqu铆 desplegamos una herramienta que utiliza modelos de lenguaje para evidenciar sesgos en frases, lo que nos permite trabajar con sesgos no binarios (como mujer - hombre, femenino - masculino) y eliminar ambig眉edades (producto de polisemias). A partir de oraciones en donde una contenga <i>a) estereotipo</i> y la otra <i>b) antiestereotipo</i> (ejemplo: <i>a)</i> Las parejas de <i>homosexuales</i> no deber铆an tener permitido casarse, <i>b)</i> Las parejas de <i>heterosexuales</i> no deber铆an tener permitido casarse.), buscamos definir las preferencias de un modelo de lenguaje pre-entrenado a la hora de producir lenguaje. Si el modelo no tuviera sesgo ambas tendr铆an el mismo nivel de preferencia, pero si el modelo estuviera sesgado, una va a tener mayor preferencia.</p> |
| <div class="buttons-flex-container"> |
| <a class="button demo" id="phrase-bias-demo" target="_blank" href="https://huggingface.co/spaces/vialibre/edia_lmodels_es">Demo</a> |
| <div class="divided-buttons-flex-container"> |
| <a class="button tuto" id="phrase-bias-tutorial-1" target="_blank" href="https://www.youtube.com/watch?v=nnK19Ro46Cs">Tutorial:<br>Sesgos en frases</a> |
| <a class="button tuto" id="phrase-bias-tutorial-2" target="_blank" href="https://www.youtube.com/watch?v=1WTQ2e19pRU">Tutorial:<br>Crows-Pairs</a> |
| </div> |
| <div class="divided-buttons-flex-container"> |
| <a class="button manual" id="phrase-bias-manual-1" target="_blank" href="https://shorturl.at/fkBL3">Manual:<br>Sesgos en frases</a> |
| <a class="button manual" id="phrase-bias-manual-2" target="_blank" href="https://shorturl.at/gJLTU">Manual:<br>Crows-Pairs</a> |
| </div> |
| </div> |
| </div> |
| </div> |
|
|
| <div class="card" id="data-bias-card"> |
| <h3 id="data-bias-title">Datos de las palabras</h3> |
| <div class="card-description-flex-container"> |
| <p id="data-bias-description">Esta herramienta muestra informaci贸n adicional de la palabra, como la frecuencia y el contexto de aparici贸n dentro del corpus de entrenamiento. Sirve para explicar e interpretar comportamientos inesperados en otras pesta帽as producto de la polisemia o la poca frecuencia de las palabras, y a partir de esta exploraci贸n, poder realizar modificaciones pertinentes en nuestras listas de palabras y frases.</p> |
| <div class="buttons-flex-container"> |
| <a class="button demo" id="data-bias-demo" target="_blank" href="https://huggingface.co/spaces/vialibre/edia_datos_es">Demo</a> |
| <a class="button tuto" target="_blank" id="data-bias-tutorial" href="https://www.youtube.com/watch?v=hhFlv3bmThU">Tutorial: Datos de las palabras</a> |
| <a class="button manual" target="_blank" id="data-bias-manual" href="https://shorturl.at/CIVY6">Manual</a> |
| </div> |
| </div> |
| </div> |
|
|
| </section> |
|
|
| <footer> |
|
|
| <section id="image-flex-container"> |
|
|
| <div id="main-buttons-flex-container"> |
|
|
| <h4 id="backup-title">Backups de EDIA:</h4> |
| <a class="button" id="hf" target="_blank" href="https://huggingface.co/spaces/vialibre/edia_full_es">Pru茅balo en HuggingFace馃!</a> |
| <a class="button" id="ccad" target="_blank" href="https://edia.ngrok.app/">Pru茅balo en nuestra universidad!</a> |
|
|
| </div> |
|
|
| <div id="organization-container"> |
|
|
| <h4 id="organization-title">Desarollado por:</h4> |
| <a target="_blank" href="https://www.vialibre.org.ar/"> |
| <img class="banner" id="viaLibre-logo" src="images/viaLibre.jpg" alt="Fundaci贸n ViaLibre banner"> |
| </a> |
| <a target="_blank" href="https://www.famaf.unc.edu.ar/"> |
| <img class="banner" id="FaMAF-logo" src="images/Logo-FAMAF_UNC-color-2.jpg" alt="FaMAF banner"> |
| </a> |
|
|
| </div> |
|
|
| <div id="sponsors-container"> |
|
|
| <h4 id="sponsors-title">Auspiciado por:</h4> |
| <a target="_blank" href="https://aplusalliance.org/about-fair/"> |
| <img class="banner" id="FaiR-logo" src="images/fair.png" alt="FaiR banner"> |
| </a> |
| <a target="_blank" href="https://www.nd.edu/"> |
| <img class="banner" id="notre-dame-logo" src="images/notre_dame.jpg" alt="Notre Dame banner"> |
| </a> |
|
|
| </div> |
|
|
| <div id="our-pages-flex-container"> |
|
|
| <h4 id="our-pages-title">Puedes encontrar a EDIA en:</h4> |
| <a target="_blank" href="https://github.com/fvialibre/edia"> |
| <img id="github-logo" src="images/github.png" alt="EDIA's Github repository"> |
| Github |
| </a> |
|
|
| <a target="_blank" href="https://hub.docker.com/r/fvialibre/edia"> |
| <img id="docker-logo" src="images/docker.png" alt="EDIA's DockerHub image"> |
| DockerHub |
| </a> |
|
|
| <a target="_blank" href="https://huggingface.co/vialibre"> |
| <img id="hf-logo" src="images/huggingface.svg" alt="ViaLibre's HuggingFace page"> |
| HuggingFace馃 |
| </a> |
|
|
| </div> |
| |
| </section> |
|
|
| <p id="footer-description">ACLARACIONES IMPORTANTES: Las consultas realizadas al usar este software quedan registradas autom谩ticamente en nuestro sistema. Declaramos que la informaci贸n recabada es an贸nima, confidencial y que el uso de la misma s贸lo ser谩 para fines de investigaci贸n. Para realizar las exploraciones de las dimensiones de an谩lisis, como g茅nero, necesitamos simplificarlo a un fen贸meno binario; entendemos que es una sobresimplificaci贸n, se trata de una primera aproximaci贸n a la familia de soluciones de mitigaci贸n que sabemos requiere de una mayor complejidad para tratar los fen贸menos de sesgo dentro de los constructos sociales.</p> |
| </footer> |
|
|
| </body> |
|
|
| </html> |
|
|
