Pero si esta IA funciona con probabilidad, por ejemplo le pides un trabajador de enfermería, es mas probable que de una mujer que a un hombre y en otra profesiones pasa lo mismo, ya que en el mundo real hay estos cesgos y no necesaramente son malos. Pero entiendo el punto del tema del podcast, creo que lo que falta son datos mas variados
Concuerdo, no necesariamente son malos, de hecho, son inherentes al ser humano. El problema surge cuando esos sesgos llevan a decisiones discriminatorias con efecto negativos. Por ejemplo, en reclutamiento, si entrenamos un modelo para que seleccione qué postulantes pasan a la siguiente etapa, y lo hacemos en CVs donde mayoritariamente hay mujeres (u hombres), el modelo puede tender a darle mayor peso a si es hombre o mujer versus sus capacidades para desempeñar su trabajo. Si en el contexto del reclutamiento se considera que está bien, no hay mucho que discutir, pero si el hecho que sea hombre o mujer no tiene nada que ver con que sea un buen postulante, o es mucho menos importante que sus capacidades, entonces el sesgo se torna un problema. Le pasó a Amazon, y finalmente eliminó la IA.
Tal como menciona Jonathan, es importante considerar el aspecto contextual referente al sesgo que se produce, lo que queremos evitar es que se genere un daño o prejuicio y si efectivamente es importante tener en cuenta las bases de entrenamiento para generar mejor representatividad al momento de modelar la realidad (que ya de por si presenta sesgos inherentes). Saludos!
Los sesgos no son malos y ocurren por algo, el problema es las actuales generaciones de cristal que quieren ir en contra de la realidad, si la mayoría de los jugadores de básquet son altos es xq el ser alto es importante para jugar profesionalmente, obvio existen buenos jugadores de estatura baja, pero no quita la importancia del sesgo. El problema es el sesgo humano puesto a mano cómo pasó con el generador de imágenes de gemini (Google)
No sé si es un problema de la generación de cristal, como le dices. Concuerdo que no son malos per se; es parte de nuestra naturaleza. Sin embargo, indudablemente pueden llevar a problemas; y ahí está el riesgo. Por ejemplo, los sistemas de reconocimiento facial tienden a reconocer de peor manera pieles más oscura. Si usamos tecnologías similares en autopilotaje, ¿Está bien en que la probabilidad de que choque a una persona con piel más oscura sea mucho más alta que los otros grupos? ¿O que los sistemas de reclutamiento que analizan CV le den más peso a si es hombre o mujer por sobre sus capacidades por el hecho que en un puesto históricamente ha sido más ocupado por un grupo? Claramente el riesgo del sesgo se debe evaluar por contexto, no siempre es malo (en el ejemplo de Google, no veo riesgo del sesgo en pedir imagen con precisión histórica), pero tampoco siempre es bueno (self-driving, reclutamiento, etc)
Efectivamente como menciona Jonathan, el sesgo se debe evaluar desde el punto de vista del contexto, per se no es necesariamente malo y también es algo que existe en nosotros las personas también, el problema se genera cuando se causa algún daño o prejuicio y eso es justamente lo que queremos evitar y que ojalá los modelos de IA también puedan considerar esta postura
Pero si esta IA funciona con probabilidad, por ejemplo le pides un trabajador de enfermería, es mas probable que de una mujer que a un hombre y en otra profesiones pasa lo mismo, ya que en el mundo real hay estos cesgos y no necesaramente son malos. Pero entiendo el punto del tema del podcast, creo que lo que falta son datos mas variados
Concuerdo, no necesariamente son malos, de hecho, son inherentes al ser humano. El problema surge cuando esos sesgos llevan a decisiones discriminatorias con efecto negativos. Por ejemplo, en reclutamiento, si entrenamos un modelo para que seleccione qué postulantes pasan a la siguiente etapa, y lo hacemos en CVs donde mayoritariamente hay mujeres (u hombres), el modelo puede tender a darle mayor peso a si es hombre o mujer versus sus capacidades para desempeñar su trabajo. Si en el contexto del reclutamiento se considera que está bien, no hay mucho que discutir, pero si el hecho que sea hombre o mujer no tiene nada que ver con que sea un buen postulante, o es mucho menos importante que sus capacidades, entonces el sesgo se torna un problema. Le pasó a Amazon, y finalmente eliminó la IA.
Tal como menciona Jonathan, es importante considerar el aspecto contextual referente al sesgo que se produce, lo que queremos evitar es que se genere un daño o prejuicio y si efectivamente es importante tener en cuenta las bases de entrenamiento para generar mejor representatividad al momento de modelar la realidad (que ya de por si presenta sesgos inherentes).
Saludos!
Los sesgos no son malos y ocurren por algo, el problema es las actuales generaciones de cristal que quieren ir en contra de la realidad, si la mayoría de los jugadores de básquet son altos es xq el ser alto es importante para jugar profesionalmente, obvio existen buenos jugadores de estatura baja, pero no quita la importancia del sesgo. El problema es el sesgo humano puesto a mano cómo pasó con el generador de imágenes de gemini (Google)
No sé si es un problema de la generación de cristal, como le dices. Concuerdo que no son malos per se; es parte de nuestra naturaleza. Sin embargo, indudablemente pueden llevar a problemas; y ahí está el riesgo. Por ejemplo, los sistemas de reconocimiento facial tienden a reconocer de peor manera pieles más oscura. Si usamos tecnologías similares en autopilotaje, ¿Está bien en que la probabilidad de que choque a una persona con piel más oscura sea mucho más alta que los otros grupos? ¿O que los sistemas de reclutamiento que analizan CV le den más peso a si es hombre o mujer por sobre sus capacidades por el hecho que en un puesto históricamente ha sido más ocupado por un grupo? Claramente el riesgo del sesgo se debe evaluar por contexto, no siempre es malo (en el ejemplo de Google, no veo riesgo del sesgo en pedir imagen con precisión histórica), pero tampoco siempre es bueno (self-driving, reclutamiento, etc)
Efectivamente como menciona Jonathan, el sesgo se debe evaluar desde el punto de vista del contexto, per se no es necesariamente malo y también es algo que existe en nosotros las personas también, el problema se genera cuando se causa algún daño o prejuicio y eso es justamente lo que queremos evitar y que ojalá los modelos de IA también puedan considerar esta postura