AI & Riktlinjer och principer för innehållspolicyn när du skapar tillsammans med AI

Inledning

Eftersom skriftlig kunskap och kommunikation är en allestädes närvarande del av människans liv och dess utveckling under århundraden, är användningsområdena för vår NeoCortex-plattform för generering av naturliga språk (NLG) breda och betydelsefulla.

På TextCortex AI vill vi bidra till en värld som drar nytta av användningen av artificiell intelligens. Vår organisation är ett globalt distribuerat, mångsidigt team av AI forskare, entusiaster och individer. Som arbetar med en gemensam vision för att bygga robusta lösningar och produkter som speglar skönheten i mångfald och ömsesidig respekt.

Som med all teknik kan missbruk aldrig helt uteslutas. Samma risker som alla tekniker står inför gäller även för generering av naturligt språk. Vi är tacksamma för det akademiska samfundet som redan arbetar outtröttligt med att visa upp och förbättra NLG-modellernas robusthet, och som en ansvarsfull organisation vill vi bidra med våra riktlinjer och principer för att möjliggöra en framtid där mänskligheten blomstrar tillsammans med artificiell intelligens.
‍

Bästa metoder för att skapa AI

När du använder våra produkter ber vi dig att se till att du följer följande:

1) Människan i loopen.
Inkludera mänsklig bedömning i din AI-kompletterade skapandeprocess för att bekräfta fakta, korrigera oönskade fördomar och främja en allmän korrekthet i de skapade resultaten.

2) Kontext och instruktioner spelar roll.
NeoCortex språkmodellerna tar det som instrueras till dem som en tankegrund och skapar och utökar på grundval av dem. För att uppnå bästa möjliga resultat och förhindra missbruk ber vi dig att alltid utvärdera om din inmatning
a) skulle förstås av en av dina vänner/kollegor och
b) inte skulle skada eller kränka en individs eller grupps intressen eller känslor.

3) Betygsätt det goda och rapportera det dåliga.
AI lär sig fortfarande hur det mänskliga språket fungerar. För att vidareutveckla och förbättra skapandeprestandan hos NeoCortex underliggande språkmodeller ber vi dig att använda dig av de befintliga funktionerna för att betygsätta, gilla och rapportera.

4) Tänk på och respektera konsekvenserna.
När du använder TextCortex produkter, sätt dig in i situationen för individer eller grupper som kan påverkas negativt av din skapelse.

5) Dela med omsorg
Dela inte innehåll som bryter mot vår skapande- och innehållspolicy. I allmänhet ska du skapa innehåll och dela kunskap som är till för att hjälpa andra att bli bättre, inte en sämre version av sig själva.

6) Ditt skapande, ditt ansvar
Innehåll som skapats med hjälp av TextCortex produkter måste tillskrivas och kopplas till ditt namn eller ditt företag vid publiceringen. Även om vi gör vårt bästa för att förbättra de vanligaste svagheterna och försöka övervinna utmaningarna med dagens naturliga språkgenerering görs en skapelse på grundval av dina instruktioner och publiceringen av en skapelse är ditt ansvar.
‍

Policy för skapande och innehåll

Alla tillgängliga TextCortex -produkter, inklusive men inte begränsat till vår AI -redigerare, Chrome extensionoch API är förbjudna att användas i illasinnade syften. Vi värdesätter en värld utan censur, men vi arbetar aktivt med att utveckla hur skadligt innehåll kan förhindras, vilket kan omfatta filter.

Även om våra AI -modeller är fria att uttrycka sig, är vår uppmärksamhet riktad mot att förhindra dåliga aktörer som medvetet missbrukar AI:s makt. En lista över förbjudna åtgärder omfattar följande användningsområden för skapande:
‍
HateSpeech: Skapelser som främjar hat baserat på en individs eller en grupps, inklusive men inte begränsat till identitet eller etnicitet.
‍Våld: Skapelser som främjar hat baserat på en individs eller en grupps, inklusive men inte begränsat till identitet eller etnicitet: Skapelser som främjar, förhärligar eller hyllar lidande eller förnedring av andra levande varelser.
‍Självskadebeteende: Skapelser som främjar, förhärligar eller hyllar lidande eller förnedring av andra levande varelser: Skapelser som uppmuntrar eller främjar självskadebeteende, t.ex. självmord, skärande beteende och ätstörningar.
‍Publicinfluence or Political influence: Skapelser som uppmuntrar eller främjar självskadebeteende, t.ex. självmord, skärande beteende och ätstörningar: Skapelser som syftar till att påverka en individs eller en grupps politiska beslut.
‍Harassment: Skapelser som syftar till att trakassera, hota eller mobba en individs eller en grupps intressen.
‍Deception: Skapelser som är vilseledande eller falska som standard.
‍Spam: Att medvetet undvika att inkludera en människa i kretsloppet för att mass-skapa innehåll i syfte att med kraft få uppmärksamhet.

För att förhindra de skadliga ämnena ovan genomför vi regelbundna tester av de skapelser som NeoCortex har gjort och vidtar åtgärder mot bristande efterlevnad som vanligtvis leder till att du inte längre har tillgång till våra produkter.
‍

Utmaningar med NLG och forskningsmöjligheter

Generering av naturliga språk är fortfarande i sin linda och har en rad olika möjligheter att utnyttjas

1) Felaktig information
Språkmodeller är till för att inspirera människor och hjälpa till med den kreativa skrivprocessen. I likhet med människans minne har NeoCortex språkmodellernas minne sina gränser och kan skapa felaktig eller sakligt felaktig information.

‍Sombästa praxis rekommenderar vi att man följer principen "human-in-the-loop".

2) Bias
På grund av att stora språkmodeller tränas på olika typer och kategorier av information från allmänt tillgängliga källor upplever de vissa bias. Detta kan inkludera att våra modeller är mer skickliga på att skriva om ett visst ämne bättre än andra, men också inkludera mörka naturer som utan avsikt lärdes in av tidigare mänskliga exempel. Vi gör vårt bästa för att avlägsna våra AI -modeller från stötande eller skadligt språk, men vi är beroende av feedback från våra kunder, användare och bidragsgivare.

Som bästa praxis ber vi er att rapportera alla misstänkta skapelser med hjälp av de redan befintliga rapporteringsfunktionerna.

3) Etisk säkerhet är ett rörligt och ständigt utvecklande mål
Med den breda tillämpningen av naturlig språkgenerering uppstår med tiden nya intresse- och problemområden. Vi ber er att bidra till utvecklingen där ni observerar oegentligheter och flagga dessa för en bättre och etisk utveckling av AI.

Vi bjuder aktivt in forskare att delta i diskussionen, utvecklingen och förbättringen av de ovan nämnda utmaningarna. Vi inbjuder dig också att diskutera utmaningar som kanske inte nämns på denna sida. För att uttrycka ditt intresse för att samarbeta med TextCortex vänligen fyll i det här formuläret.