¿Pato o conejo? (Y su moraleja)

Supongo que

es conocido de todos. Según la orientación de la imagen, la red neuronal correspondiente la categoriza bien como conejo o bien como pato.

¿El motivo? La red está entrenada con una serie de fotos etiquetadas por humanos y en ellas, las figuras en que parecen conejos están en ciertos ángulos (los naturales en fotos de conejos) y en las que aparecen patos, en otros.

Como ocurre habitualmente, un modelo predictivo no deja de ser un modelo descriptivo de los datos con los que se entrena. Dicho de otra manera, podemos averiguar mucho sobre el conjunto de datos de entrenamiento interrogando al modelo predictivo.

¿Y?

Pues que lo anterior tiene una moraleja más que evidente cuando se habla de sesgos, ética, etc. en el deep learning que, por consideración las buenas luces de mis lectores, me voy a abstener de desarrollar.

2 comentarios sobre “¿Pato o conejo? (Y su moraleja)

  1. Guillermo Luijk 31 enero, 2020 11:50

    La rotación que da al traste con la capacidad de un modelo de imágenes podría equivaler a cualquier otra variable más oculta y menos obvia, que te excluyera de esa hipoteca o de ese puesto de trabajo.

    Rizando el rizo con el caso imágenes, no es habitual hacer fotografías boca abajo pero… el detector de sonrisas de una cámara podría tornarse en detector de tristezas cuando se le da la vuelta a una cámara de fotos?

  2. ffernandez 31 enero, 2020 12:45

    Lo que no se suele mencionar es lo tramposo que es debatir sobre la eficacia de un modelo entrenado para una cosa cuando se lo aplicas a otra que, pareciendose, no tiene nada que ver. El engendro de la imagen ni es pato ni es conejo, sino una criatura que no existe creada para engañar al ojo humano. Sería igual de ridículo argumentar sobre cómo se fácil es de engañar a un modelo que distinga entre tigres y leones cuando lo que le enseñas es un jaguar, o con el ejemplo de las hipotecas: ¡Qué resultado más curioso obtengo cuando aplico mi modelo de detección de fraude para saber si conceder una hipoteca o no!

Comenta

Your email address will not be published.

Puedes usar estas etiquetas y atributos de HTML: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.