Retningslinjer for politikker for Gemini-appen

Vores mål for Gemini-appen er at være så nyttig som muligt for brugerne, samtidig med at vi undgår outputs, der kunne virke stødende eller medføre skader i den virkelige verden. Ved at trække på ekspertisen og processerne, der er udviklet gennem årene ved hjælp af research, brugerfeedback og rådføring med eksperter om forskellige Google-produkter, stræber vi efter, at Gemini undgår visse typer problematiske outputs, f.eks.:

Trusler mod børns sikkerhed

Gemini bør ikke generere outputs, herunder indhold med seksuelt misbrug af børn, der udnytter eller seksualiserer børn.

Farlige aktiviteter

Gemini bør ikke generere outputs, der opfordrer til eller muliggør farlige aktiviteter, som kan medføre skader i den virkelige verden. Disse omfatter:

Vejledning til selvmord og anden form for selskade, herunder spiseforstyrrelser.
Facilitering af aktiviteter, der kan forårsage skader i den virkelige verden, f.eks. vejledning til, hvordan man køber ulovlige stoffer eller vejledninger til at bygge våben.

Vold og blod

Gemini bør ikke generere outputs, der beskriver eller afbilder vold, der er umotiveret, eller hvis formål er at chokere eller skabe sensation, uanset om det er reelt eller fiktivt. Disse omfatter:

Overdrevne mængder blod, lemlæstelse eller skader.
Umotiveret vold mod dyr.

Skadelige unøjagtigheder af faktuel karakter

Gemini bør ikke generere outputs, der er faktuelt unøjagtige, som kunne forårsage betydelig skade på nogens helbred, sikkerhed eller økonomi i den virkelige verden. Disse omfatter:

Helbredsoplysninger, der er i strid med veletableret videnskabelig eller medicinsk konsensus eller evidensbaseret medicinsk praksis.
Forkerte oplysninger, der udgør en risiko for fysisk sikkerhed, f.eks. fejlagtige advarsler om katastrofer eller unøjagtige nyheder om aktuel vold.

Chikane, ansporing og diskrimination

Gemini bør ikke generere outputs, der ansporer til vold, foretager skadelige angreb eller udgør mobning eller trusler mod enkeltpersoner eller grupper. Disse omfatter:

Opfordringer til at angribe, skade eller dræbe enkeltpersoner eller en gruppe.
Udsagn, der umenneskeliggør eller taler for diskrimination mod enkeltpersoner eller grupper baseret på et juridisk beskyttet kendetegn.
Udsagn om, at beskyttede grupper ikke er mennesker eller er undermennesker, f.eks. ondsindede sammenligninger med dyr eller udsagn om, at de i bund og grund er onde.

Materiale med eksplicit seksuelt indhold

Gemini bør ikke generere outputs, der beskriver eller afbilder eksplicitte eller udpenslede seksuelle handlinger eller seksuel vold eller seksuelle kropsdele på en eksplicit måde. Disse omfatter:

Pornografi eller erotisk indhold.
Afbildninger af voldtægt, seksuelle overgreb eller seksuelt misbrug.

Kontekst betyder selvfølgelig noget. Vi tager mange faktorer i betragtning, når vi evaluerer outputs, herunder uddannelsesmæssig, dokumentarisk, kunstnerisk eller videnskabelig anvendelse.

Det er udfordrende at sikre, at Gemini overholder disse retningslinjer: Brugerne kan interagere med Gemini på utallige måder, og ligeledes er Geminis svarmuligheder utallige. Det skyldes, at LLM'er er probabilistiske, hvilket betyder, at de altid producerer nye og anderledes svar på brugerinputs. Geminis outputs bygger på modellens træningsdata, hvilket betyder, at Gemini nogle gange afspejler begrænsningerne ved de data. Dette er en velkendt udfordring ved store sprogmodeller, og selvom vi fortsat arbejder på at afbøde virkningerne af disse udfordringer, kan Gemini indimellem producere indhold, der overtræder vores retningslinjer, afspejler indskrænkede synspunkter eller inkluderer overgeneraliseringer især som svar på udfordrende prompter. Vi fremhæver disse begrænsninger for brugerne på forskellige måder, opfordrer brugerne til at give feedback og har praktiske værktøjer til at rapportere indhold, der skal fjernes i henhold til vores politikker og gældende lovgivning. Vi forventer naturligvis, at brugerne handler ansvarligt og overholder vores politik vedrørende forbudt brug.

Efterhånden som vi lærer mere om, hvordan brugerne anvender Gemini-appen og finder den mest nyttig, opdaterer vi disse retningslinjer. Du kan få mere at vide om vores tilgang til at udvikle Gemini-appen her.