Pourquoi j’ai décidé de faire un dépistage génétique avant d’essayer de tomber enceinte
Nombres, faits et tendances façonnant votre monde
Comment un ordinateur 'se voit-il'?
Un ordinateur peut être formé pour prédire si une image montre un homme ou une femme. Pouvez-vous identifier quelles parties du visage sont les plus essentielles à la décision de l'ordinateur?
Les outils de vision de la machine comme la reconnaissance du visage sont de plus en plus utilisés pour l'application de la loi, la publicité et d'autres fins. Centre de recherche sur Pew elle-même a récemment utilisé un système de vision de la machine pour mesurer la prévalence des hommes et des femmes dans les résultats de la recherche d'images en ligne. Ce type de système développe ses propres règles pour identifier les hommes et les femmes après avoir vu des milliers d'images, mais ces règles peuvent être difficiles pour les humains à discerner. Pour mieux comprendre comment cela fonctionne, nous avons montré des images des membres du personnel du Centre à un système de vision formé de la machine similaire à celui que nous avons utilisé pour classifier les recherches d'images. Nous avons ensuite obscuré systématiquement des sections de chaque image pour voir quelles parties du visage provoquaient le système de modifier sa décision concernant le sexe de la personne illustrée. Certains des résultats semblaient intuitifs, d'autres découpes. Dans ce défi interactif, voyez si vous pouvez deviner ce qui rend le système changer sa décision.
Tout d'abord, vous aurez montré une image d'un visage de quelqu'un qui identifie comme un homme ou une femme.
Le système devine de savoir si cette image représente une femme ou un homme. Parfois, la supposition initiale est fausse.
Ensuite, vous aurez la possibilité de dissimuler des parties de l'image, ce qui vous permettra de créer ces zones invisibles dans le système. Choisissez celui que vous pensez avoir le plus à faire avec la manière dont le système décide s'il décrit un homme ou une femme.
Cette image avec une partie masquée peut ne pas avoir l'air très différente pour vous, mais cacher cette partie provoque le système de passer sa décision sur le sexe de la personne à l'image.
Une fois que vous avez trouvé la première partie qui fait que le système change d'esprit, vous aurez montré d'autres zones en surbrillance qui le feraient également de passer sa décision.
Lorsque vous y êtes invité, cliquez sur ou sur un carré en surbrillance pour couvrir cette partie de l'image. L'un des blocs en surbrillance provoquera que notre système d'apprentissage de la machine change de décision sur la question de savoir s'il s'agit d'une femme ou d'un homme.
Au fur et à mesure que vous continuez, il est important de garder à l'esprit que le modèle que nous avons utilisé ici est relativement simple et que son étiquetage des images ne comprend que deux catégories ("homme" et "femme") qui sont déterminées uniquement par des caractéristiques physiques extérieures. Il n'a pas non plus de compréhension innée du concept de genre ou d'identité de genre.
Pouvez-vous confondre le système de vision de la machine?
Voici quelques-unes des images du défi interactif. En tant que rappel, si une zone jaune ou violette est couverte, le modèle change sa décision initiale de savoir si l'image montrait un homme ou une femme.
Que voyez-vous quand vous regardez ces images? Peut-être avez-vous remarqué que parfois les parties du visage d'une personne qui causent le modèle de changer d'avis sur le sexe de la personne ne sont pas ce que vous auriez pu attendre. Parfois couvrant le milieu du visage d'une personne provoque le changement de sa décision - mais parfois la même chose se produit si nous couvrons une partie de leur visage qui semble trivial à un humain pour déterminer le sexe, comme leur oreille ou une partie de leur front .
Vous remarquerez peut-être aussi qu'il n'y a pas de schémas évidents ou cohérents aux parties des visages des gens qui provoquent le modèle de changer d'avis. Couvrant une certaine partie du visage d'une personne pourrait changer sa décision pour cette image, mais couvrant la même partie du visage d'une autre personne pourrait ne pas causer ce changement.
Les outils d'apprentissage de la machine peuvent apporter des gains d'efficacité substantiels pour analyser de grandes quantités de données, c'est pourquoi nous avons utilisé ce type de système pour examiner des milliers de résultats de recherche d'images dans nos propres études. Mais contrairement aux programmes informatiques traditionnels - qui suivent un ensemble de mesures hautement prescrit pour atteindre leurs conclusions - ces systèmes prennent leurs décisions de manière largement cachée de la vue publique et fortement dépendante des données utilisées pour les former. En tant que tel, ils peuvent être sujets aux biais systématiques et peuvent échouer de manière difficile à comprendre et difficile à prédire à l'avance.
La technique utilisée dans cet interactif est une façon de vous aider à comprendre les caractéristiques de ces algorithmes pour prendre leurs décisions. De même, notre essai de données sur la vision de la machine prend une analyse approfondie de la manière dont les données utilisées pour former ces systèmes peuvent introduire des biais cachés et des sources d'erreur inattendues dans leurs résultats.
Notre outil d'apprentissage de la machine est relativement simple et conçu dans le but très spécifique d'identifier le sexe dans des images numériques, de manière plus avancée ou ceux formés pour effectuer différentes tâches pourraient obtenir des résultats différents. Mais cet exercice peut fournir des idées importantes sur la manière dont ces systèmes prennent leurs décisions. Plus important encore, il peut donner un aperçu de la manière dont ces processus ne sont pas toujours clairs ni intuitifs. Les décisions algorithmiques étant de plus en plus portées sur des décisions avec des impacts profonds dans les êtres humains, il est important de comprendre leurs limites - ainsi que de la manière dont leurs résultats peuvent être biaisés ou simplement inexacts.
Pour plus de cette analyse, lisez notre méthodologie. Pour en savoir plus sur la vision de la machine, lisez notre essai de données sur l'impact des données de formation sur l'exactitude des modèles de vision de la machine. Pour lire comment Centre de recherche sur la PEW a utilisé des systèmes de vision de la machine à la recherche, voir "Les hommes apparaissent deux fois plus souvent que les femmes des photos sur Facebook" et "Genre et emplois dans des recherches d'images en ligne".
À propos du Centre de recherche sur Pew Centre de recherche sur Pew est un réservoir de fait non étagère qui informe le public sur les problèmes, les attitudes et les tendances qui façonnent le monde. Il mène des sondages d'opinion, des recherches démographiques, une analyse de contenu des médias et une autre recherche sur la science sociale empirique. Le Centre de recherche sur Pew ne prend pas de postes de politique. C'est une filiale des fiducies de charité de pew.
https://www.youtube.com/watch?v=XC42wfYpY4E
Nombres, faits et tendances façonnant votre monde
Comment un ordinateur 'se voit-il'?
Un ordinateur peut être formé pour prédire si une image montre un homme ou une femme. Pouvez-vous identifier quelles parties du visage sont les plus essentielles à la décision de l'ordinateur?
Les outils de vision de la machine comme la reconnaissance du visage sont de plus en plus utilisés pour l'application de la loi, la publicité et d'autres fins. Centre de recherche sur Pew elle-même a récemment utilisé un système de vision de la machine pour mesurer la prévalence des hommes et des femmes dans les résultats de la recherche d'images en ligne. Ce type de système développe ses propres règles pour identifier les hommes et les femmes après avoir vu des milliers d'images, mais ces règles peuvent être difficiles pour les humains à discerner. Pour mieux comprendre comment cela fonctionne, nous avons montré des images des membres du personnel du Centre à un système de vision formé de la machine similaire à celui que nous avons utilisé pour classifier les recherches d'images. Nous avons ensuite obscuré systématiquement des sections de chaque image pour voir quelles parties du visage provoquaient le système de modifier sa décision concernant le sexe de la personne illustrée. Certains des résultats semblaient intuitifs, d'autres découpes. Dans ce défi interactif, voyez si vous pouvez deviner ce qui rend le système changer sa décision.
Tout d'abord, vous aurez montré une image d'un visage de quelqu'un qui identifie comme un homme ou une femme.
Le système devine de savoir si cette image représente une femme ou un homme. Parfois, la supposition initiale est fausse.
Ensuite, vous aurez la possibilité de dissimuler des parties de l'image, ce qui vous permettra de créer ces zones invisibles dans le système. Choisissez celui que vous pensez avoir le plus à faire avec la manière dont le système décide s'il décrit un homme ou une femme.
Cette image avec une partie masquée peut ne pas avoir l'air très différente pour vous, mais cacher cette partie provoque le système de passer sa décision sur le sexe de la personne à l'image.
Une fois que vous avez trouvé la première partie qui fait que le système change d'esprit, vous aurez montré d'autres zones en surbrillance qui le feraient également de passer sa décision.
Lorsque vous y êtes invité, cliquez sur ou sur un carré en surbrillance pour couvrir cette partie de l'image. L'un des blocs en surbrillance provoquera que notre système d'apprentissage de la machine change de décision sur la question de savoir s'il s'agit d'une femme ou d'un homme.
Au fur et à mesure que vous continuez, il est important de garder à l'esprit que le modèle que nous avons utilisé ici est relativement simple et que son étiquetage des images ne comprend que deux catégories ("homme" et "femme") qui sont déterminées uniquement par des caractéristiques physiques extérieures. Il n'a pas non plus de compréhension innée du concept de genre ou d'identité de genre.
Pouvez-vous confondre le système de vision de la machine?
Voici quelques-unes des images du défi interactif. En tant que rappel, si une zone jaune ou violette est couverte, le modèle change sa décision initiale de savoir si l'image montrait un homme ou une femme.
Que voyez-vous quand vous regardez ces images? Peut-être avez-vous remarqué que parfois les parties du visage d'une personne qui causent le modèle de changer d'avis sur le sexe de la personne ne sont pas ce que vous auriez pu attendre. Parfois couvrant le milieu du visage d'une personne provoque le changement de sa décision - mais parfois la même chose se produit si nous couvrons une partie de leur visage qui semble trivial à un humain pour déterminer le sexe, comme leur oreille ou une partie de leur front .
Vous remarquerez peut-être aussi qu'il n'y a pas de schémas évidents ou cohérents aux parties des visages des gens qui provoquent le modèle de changer d'avis. Couvrant une certaine partie du visage d'une personne pourrait changer sa décision pour cette image, mais couvrant la même partie du visage d'une autre personne pourrait ne pas causer ce changement.
Les outils d'apprentissage de la machine peuvent apporter des gains d'efficacité substantiels pour analyser de grandes quantités de données, c'est pourquoi nous avons utilisé ce type de système pour examiner des milliers de résultats de recherche d'images dans nos propres études. Mais contrairement aux programmes informatiques traditionnels - qui suivent un ensemble de mesures hautement prescrit pour atteindre leurs conclusions - ces systèmes prennent leurs décisions de manière largement cachée de la vue publique et fortement dépendante des données utilisées pour les former. En tant que tel, ils peuvent être sujets aux biais systématiques et peuvent échouer de manière difficile à comprendre et difficile à prédire à l'avance.
La technique utilisée dans cet interactif est une façon de vous aider à comprendre les caractéristiques de ces algorithmes pour prendre leurs décisions. De même, notre essai de données sur la vision de la machine prend une analyse approfondie de la manière dont les données utilisées pour former ces systèmes peuvent introduire des biais cachés et des sources d'erreur inattendues dans leurs résultats.
Notre outil d'apprentissage de la machine est relativement simple et conçu dans le but très spécifique d'identifier le sexe dans des images numériques, de manière plus avancée ou ceux formés pour effectuer différentes tâches pourraient obtenir des résultats différents. Mais cet exercice peut fournir des idées importantes sur la manière dont ces systèmes prennent leurs décisions. Plus important encore, il peut donner un aperçu de la manière dont ces processus ne sont pas toujours clairs ni intuitifs. Les décisions algorithmiques étant de plus en plus portées sur des décisions avec des impacts profonds dans les êtres humains, il est important de comprendre leurs limites - ainsi que de la manière dont leurs résultats peuvent être biaisés ou simplement inexacts.
Pour plus de cette analyse, lisez notre méthodologie. Pour en savoir plus sur la vision de la machine, lisez notre essai de données sur l'impact des données de formation sur l'exactitude des modèles de vision de la machine. Pour lire comment Centre de recherche sur la PEW a utilisé des systèmes de vision de la machine à la recherche, voir "Les hommes apparaissent deux fois plus souvent que les femmes des photos sur Facebook" et "Genre et emplois dans des recherches d'images en ligne".
À propos du Centre de recherche sur Pew Centre de recherche sur Pew est un réservoir de fait non étagère qui informe le public sur les problèmes, les attitudes et les tendances qui façonnent le monde. Il mène des sondages d'opinion, des recherches démographiques, une analyse de contenu des médias et une autre recherche sur la science sociale empirique. Le Centre de recherche sur Pew ne prend pas de postes de politique. C'est une filiale des fiducies de charité de pew.
https://www.youtube.com/watch?v=XC42wfYpY4E