import{S as Ke,i as Ne,s as Qe,e as o,k as f,w as O,t as a,M as Fe,c as l,d as t,m as v,a as u,x as V,h as r,b as c,G as s,g as m,y as X,L as De,q as Y,o as Z,B as ee,v as Ie}from"../../chunks/vendor-hf-doc-builder.js";import{I as We}from"../../chunks/IconCopyLink-hf-doc-builder.js";import{C as Ue}from"../../chunks/CodeBlock-hf-doc-builder.js";import{C as Ge}from"../../chunks/CourseFloatingBanner-hf-doc-builder.js";function He($e){let d,z,h,g,y,w,se,M,te,R,_,U,b,ae,A,re,ne,K,q,ie,S,oe,le,N,E,Q,x,F,i,ue,C,pe,me,B,ce,de,L,he,fe,P,ve,ge,$,be,qe,j,ke,we,D,k,_e,T,Ee,xe,I;return w=new We({}),_=new Ge({props:{chapter:1,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"English",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/en/chapter1/section8.ipynb"},{label:"Fran\xE7ais",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/fr/chapter1/section8.ipynb"},{label:"English",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/en/chapter1/section8.ipynb"},{label:"Fran\xE7ais",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/fr/chapter1/section8.ipynb"}]}}),E=new Ue({props:{code:`from transformers import pipeline

unmasker = pipeline("fill-mask", model="bert-base-uncased")
result = unmasker("This man works as a [MASK].")  # Cet homme travaille comme [MASQUE]
print([r["token_str"] for r in result])

result = unmasker("This woman works as a [MASK].")  # Cette femme travaille comme [MASQUE]
print([r["token_str"] for r in result])`,highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> pipeline

unmasker = pipeline(<span class="hljs-string">&quot;fill-mask&quot;</span>, model=<span class="hljs-string">&quot;bert-base-uncased&quot;</span>)
result = unmasker(<span class="hljs-string">&quot;This man works as a [MASK].&quot;</span>)  <span class="hljs-comment"># Cet homme travaille comme [MASQUE]</span>
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])

result = unmasker(<span class="hljs-string">&quot;This woman works as a [MASK].&quot;</span>)  <span class="hljs-comment"># Cette femme travaille comme [MASQUE]</span>
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])`}}),x=new Ue({props:{code:`['lawyer', 'carpenter', 'doctor', 'waiter', 'mechanic'] 
# [avocat, charpentier, m\xE9decin, serveur, m\xE9canicien]
['nurse', 'waitress', 'teacher', 'maid', 'prostitute'] 
# ["infirmi\xE8re", "serveuse", "professeur", "femme de chambre", "prostitu\xE9e"]`,highlighted:`[<span class="hljs-string">&#x27;lawyer&#x27;</span>, <span class="hljs-string">&#x27;carpenter&#x27;</span>, <span class="hljs-string">&#x27;doctor&#x27;</span>, <span class="hljs-string">&#x27;waiter&#x27;</span>, <span class="hljs-string">&#x27;mechanic&#x27;</span>] 
<span class="hljs-comment"># [avocat, charpentier, m\xE9decin, serveur, m\xE9canicien]</span>
[<span class="hljs-string">&#x27;nurse&#x27;</span>, <span class="hljs-string">&#x27;waitress&#x27;</span>, <span class="hljs-string">&#x27;teacher&#x27;</span>, <span class="hljs-string">&#x27;maid&#x27;</span>, <span class="hljs-string">&#x27;prostitute&#x27;</span>] 
<span class="hljs-comment"># [&quot;infirmi\xE8re&quot;, &quot;serveuse&quot;, &quot;professeur&quot;, &quot;femme de chambre&quot;, &quot;prostitu\xE9e&quot;]</span>`}}),{c(){d=o("meta"),z=f(),h=o("h1"),g=o("a"),y=o("span"),O(w.$$.fragment),se=f(),M=o("span"),te=a("Biais et limitations"),R=f(),O(_.$$.fragment),U=f(),b=o("p"),ae=a("Si vous souhaitez utiliser un mod\xE8le pr\xE9-entra\xEEn\xE9 ou une version "),A=o("em"),re=a("finetun\xE9e"),ne=a(" de celui-ci en production, il est important d\u2019avoir conscience que, bien que ces mod\xE8les soient puissants, ils ont des limites. La plus importante de ces limitations est que, pour permettre le pr\xE9-entra\xEEnement des mod\xE8les sur de grandes quantit\xE9s de donn\xE9es, les chercheurs r\xE9cup\xE8rent souvent tout le contenu qu\u2019ils peuvent trouver et donc en prenant le meilleur et le pire de ce qui est disponible sur internet."),K=f(),q=o("p"),ie=a("Pour illustrer cela rapidement, revenons au pipeline "),S=o("em"),oe=a("fill-mask"),le=a(" avec le mod\xE8le BERT :"),N=f(),O(E.$$.fragment),Q=f(),O(x.$$.fragment),F=f(),i=o("p"),ue=a("Lorsque l\u2019on demande au mod\xE8le de remplacer le mot manquant dans ces deux phrases, il ne propose qu\u2019un seul m\xE9tier ne portant pas la marque du genre ("),C=o("em"),pe=a("waiter"),me=a("/"),B=o("em"),ce=a("waitress"),de=a(" \u2192 serveur/serveuse). Les autres sont des m\xE9tiers habituellement associ\xE9s \xE0 un genre sp\xE9cifique : et oui malheureusement, prostitu\xE9e a \xE9t\xE9 retenu dans les 5 premiers choix du mod\xE8le, mot associ\xE9 \xE0 \xAB femme \xBB et \xE0 \xAB travail \xBB par le mod\xE8le. Cela se produit m\xEAme si BERT est l\u2019un des rare "),L=o("em"),he=a("transformers"),fe=a(" qui n\u2019a pas \xE9t\xE9 construit avec des donn\xE9es r\xE9cup\xE9r\xE9es par "),P=o("em"),ve=a("scrapping"),ge=a(" sur internet, mais \xE0 l\u2019aide de donn\xE9es en apparence neutres. En effet, il est entra\xEEn\xE9 sur les jeux de donn\xE9s "),$=o("a"),be=a("Wikip\xE9dia Anglais"),qe=a(" et "),j=o("a"),ke=a("BookCorpus"),we=a(")."),D=f(),k=o("p"),_e=a("Donc lorsque vous utilisez ce genre d\u2019outils, il est important de garder en t\xEAte que le mod\xE8le que vous utilisez peut rapidement g\xE9n\xE9rer du contenu sexiste, raciste ou homophobe. Le "),T=o("em"),Ee=a("finetuning"),xe=a(" du mod\xE8le sur vos donn\xE9es ne fera en aucun cas dispara\xEEtre ce biais intrins\xE8que."),this.h()},l(e){const n=Fe('[data-svelte="svelte-1phssyn"]',document.head);d=l(n,"META",{name:!0,content:!0}),n.forEach(t),z=v(e),h=l(e,"H1",{class:!0});var W=u(h);g=l(W,"A",{id:!0,class:!0,href:!0});var je=u(g);y=l(je,"SPAN",{});var ye=u(y);V(w.$$.fragment,ye),ye.forEach(t),je.forEach(t),se=v(W),M=l(W,"SPAN",{});var Me=u(M);te=r(Me,"Biais et limitations"),Me.forEach(t),W.forEach(t),R=v(e),V(_.$$.fragment,e),U=v(e),b=l(e,"P",{});var G=u(b);ae=r(G,"Si vous souhaitez utiliser un mod\xE8le pr\xE9-entra\xEEn\xE9 ou une version "),A=l(G,"EM",{});var Ae=u(A);re=r(Ae,"finetun\xE9e"),Ae.forEach(t),ne=r(G," de celui-ci en production, il est important d\u2019avoir conscience que, bien que ces mod\xE8les soient puissants, ils ont des limites. La plus importante de ces limitations est que, pour permettre le pr\xE9-entra\xEEnement des mod\xE8les sur de grandes quantit\xE9s de donn\xE9es, les chercheurs r\xE9cup\xE8rent souvent tout le contenu qu\u2019ils peuvent trouver et donc en prenant le meilleur et le pire de ce qui est disponible sur internet."),G.forEach(t),K=v(e),q=l(e,"P",{});var H=u(q);ie=r(H,"Pour illustrer cela rapidement, revenons au pipeline "),S=l(H,"EM",{});var Se=u(S);oe=r(Se,"fill-mask"),Se.forEach(t),le=r(H," avec le mod\xE8le BERT :"),H.forEach(t),N=v(e),V(E.$$.fragment,e),Q=v(e),V(x.$$.fragment,e),F=v(e),i=l(e,"P",{});var p=u(i);ue=r(p,"Lorsque l\u2019on demande au mod\xE8le de remplacer le mot manquant dans ces deux phrases, il ne propose qu\u2019un seul m\xE9tier ne portant pas la marque du genre ("),C=l(p,"EM",{});var Ce=u(C);pe=r(Ce,"waiter"),Ce.forEach(t),me=r(p,"/"),B=l(p,"EM",{});var Be=u(B);ce=r(Be,"waitress"),Be.forEach(t),de=r(p," \u2192 serveur/serveuse). Les autres sont des m\xE9tiers habituellement associ\xE9s \xE0 un genre sp\xE9cifique : et oui malheureusement, prostitu\xE9e a \xE9t\xE9 retenu dans les 5 premiers choix du mod\xE8le, mot associ\xE9 \xE0 \xAB femme \xBB et \xE0 \xAB travail \xBB par le mod\xE8le. Cela se produit m\xEAme si BERT est l\u2019un des rare "),L=l(p,"EM",{});var Le=u(L);he=r(Le,"transformers"),Le.forEach(t),fe=r(p," qui n\u2019a pas \xE9t\xE9 construit avec des donn\xE9es r\xE9cup\xE9r\xE9es par "),P=l(p,"EM",{});var Pe=u(P);ve=r(Pe,"scrapping"),Pe.forEach(t),ge=r(p," sur internet, mais \xE0 l\u2019aide de donn\xE9es en apparence neutres. En effet, il est entra\xEEn\xE9 sur les jeux de donn\xE9s "),$=l(p,"A",{href:!0,rel:!0});var Te=u($);be=r(Te,"Wikip\xE9dia Anglais"),Te.forEach(t),qe=r(p," et "),j=l(p,"A",{href:!0,rel:!0});var ze=u(j);ke=r(ze,"BookCorpus"),ze.forEach(t),we=r(p,")."),p.forEach(t),D=v(e),k=l(e,"P",{});var J=u(k);_e=r(J,"Donc lorsque vous utilisez ce genre d\u2019outils, il est important de garder en t\xEAte que le mod\xE8le que vous utilisez peut rapidement g\xE9n\xE9rer du contenu sexiste, raciste ou homophobe. Le "),T=l(J,"EM",{});var Re=u(T);Ee=r(Re,"finetuning"),Re.forEach(t),xe=r(J," du mod\xE8le sur vos donn\xE9es ne fera en aucun cas dispara\xEEtre ce biais intrins\xE8que."),J.forEach(t),this.h()},h(){c(d,"name","hf:doc:metadata"),c(d,"content",JSON.stringify(Je)),c(g,"id","biais-et-limitations"),c(g,"class","header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full"),c(g,"href","#biais-et-limitations"),c(h,"class","relative group"),c($,"href","https://huggingface.co/datasets/wikipedia"),c($,"rel","nofollow"),c(j,"href","https://huggingface.co/datasets/bookcorpus"),c(j,"rel","nofollow")},m(e,n){s(document.head,d),m(e,z,n),m(e,h,n),s(h,g),s(g,y),X(w,y,null),s(h,se),s(h,M),s(M,te),m(e,R,n),X(_,e,n),m(e,U,n),m(e,b,n),s(b,ae),s(b,A),s(A,re),s(b,ne),m(e,K,n),m(e,q,n),s(q,ie),s(q,S),s(S,oe),s(q,le),m(e,N,n),X(E,e,n),m(e,Q,n),X(x,e,n),m(e,F,n),m(e,i,n),s(i,ue),s(i,C),s(C,pe),s(i,me),s(i,B),s(B,ce),s(i,de),s(i,L),s(L,he),s(i,fe),s(i,P),s(P,ve),s(i,ge),s(i,$),s($,be),s(i,qe),s(i,j),s(j,ke),s(i,we),m(e,D,n),m(e,k,n),s(k,_e),s(k,T),s(T,Ee),s(k,xe),I=!0},p:De,i(e){I||(Y(w.$$.fragment,e),Y(_.$$.fragment,e),Y(E.$$.fragment,e),Y(x.$$.fragment,e),I=!0)},o(e){Z(w.$$.fragment,e),Z(_.$$.fragment,e),Z(E.$$.fragment,e),Z(x.$$.fragment,e),I=!1},d(e){t(d),e&&t(z),e&&t(h),ee(w),e&&t(R),ee(_,e),e&&t(U),e&&t(b),e&&t(K),e&&t(q),e&&t(N),ee(E,e),e&&t(Q),ee(x,e),e&&t(F),e&&t(i),e&&t(D),e&&t(k)}}}const Je={local:"biais-et-limitations",title:"Biais et limitations"};function Oe($e){return Ie(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class es extends Ke{constructor(d){super();Ne(this,d,Oe,He,Qe,{})}}export{es as default,Je as metadata};
