AI & Richtlijnen voor het inhoudsbeleid en beginselen bij het co-creëren met AI
Preambule
Aangezien schriftelijke kennis en communicatie een alomtegenwoordig onderdeel is van het menselijk leven en de ontwikkeling daarvan door de eeuwen heen, zijn de toepassingen van ons NeoCortex natural language generation (NLG) platform breed en impactvol.
Bij TextCortex AI willen we bijdragen aan een wereld die baat heeft bij het gebruik van Kunstmatige Intelligentie. Onze organisatie is een wereldwijd verspreid, divers team van AI onderzoekers, enthousiastelingen en individuen. Die met een gemeenschappelijke visie werken aan robuuste oplossingen en producten die de schoonheid van diversiteit en wederzijds respect weerspiegelen.
Zoals bij elke technologie kan misbruik nooit volledig worden uitgesloten. Dezelfde risico's die elke technologie loopt, gelden ook voor het genereren van natuurlijke taal. Wij zijn dankbaar voor de academische gemeenschap die al onvermoeibaar werkt aan het tonen en verbeteren van de robuustheid van NLG-modellen en als verantwoordelijke organisatie willen wij met onze richtlijnen en principes bijdragen aan een toekomst waarin de mensheid samen met kunstmatige intelligentie gedijt.
Beste praktijken voor het maken van AI
Wanneer u onze producten gebruikt, vragen wij u op het volgende te letten:
1) Human-in-the-loop.
Neemmenselijk oordeelopin uw AI-gecomplementeerde creatieproces om feiten te valideren, ongewenste vooringenomenheid te corrigeren en een algemene correctheid van de gecreëerde resultaten te bevorderen.
2) Context en instructies zijn belangrijk.
De NeoCortex taalmodellen nemen wat hen wordt opgedragen als een denkbasis en creëren en breiden daar bovenop uit. Om het best mogelijke resultaat te bereiken en misbruik te voorkomen, vragen wij u altijd te evalueren of uw input
a) begrepen zou worden door een van uw vrienden/collega's en
b) de belangen of gevoelens van een individu of groep niet zou schaden of beledigen.
3) Beoordeel het goede en rapporteer het slechte.
AI leert nog steeds hoe menselijke taal werkt. Om de creatieprestaties van NeoCortex's onderliggende taalmodellen verder te ontwikkelen en te verbeteren, vragen wij u gebruik te maken van de bestaande beoordelings-, like- en rapporteringsfuncties.
4) Overweeg en respecteer de impact.
Wanneeru TextCortex producten gebruikt, plaats uzelf dan in de schoenen van individuen of groepen die mogelijk negatieve gevolgen ondervinden van uw creatie.
5) Deel met zorg
Deel geen inhoud die ons beleid inzake creatie en inhoud schendt. Maak in het algemeen inhoud en deel kennis die bedoeld is om anderen te helpen beter te worden, niet een slechtere versie van zichzelf.
6) Uw creatie, uw verantwoordelijkheid
Inhoud gemaakt met behulp van TextCortex producten moet worden toegeschreven en gekoppeld aan uw naam of uw bedrijf bij de release. Hoewel we ons best doen om de gemeenschappelijke zwakke punten te verbeteren en de uitdagingen van de huidige natuurlijke taal generatie proberen te overwinnen, wordt een creatie gemaakt bovenop uw instructie en het publiceren van elke creatie is uw verantwoordelijkheid.
Beleid inzake creatie en inhoud
Alle beschikbare TextCortex producten, inclusief maar niet beperkt tot onze AI editor, Chrome extensionen API mogen niet worden gebruikt voor kwaadaardige doeleinden. Hoewel we een wereld vrij van censuur waarderen, ontwikkelen we actief hoe het genereren van kwaadaardige inhoud kan worden voorkomen, waaronder mogelijk filters.
Terwijl onze AI modellen vrij zijn om zich te uiten, gaat onze aandacht uit naar het voorkomen van slechte actoren die bewust misbruik maken van de macht van AI. Een lijst van verboden handelingen omvat de volgende creaties:
Haatzaaien: Creaties die haat promoten op basis van de identiteit of etniciteit van een individu of een groep.
Geweld: Creaties die het lijden of vernederen van andere levende wezens bevorderen, verheerlijken of vieren.
Zelfbeschadiging: Creaties die zelfbeschadiging aanmoedigen of bevorderen, zoals zelfmoord, snijden en eetstoornissen.
Publieke invloed of politieke invloed: Creaties met als doel de politieke beslissingen van een individu of groep te beïnvloeden.
Intimidatie: Creaties die tot doel hebben een individu of een groep lastig te vallen, te bedreigen of te pesten.
Misleiding: Creaties die standaard misleidend of vals zijn.
Spam: Het willens en wetens vermijden van een human-in-the-loop om massaal inhoud te creëren met als doel op een geforceerde manier aandacht te krijgen.
Om bovenstaande schadelijke onderwerpen te voorkomen voeren we regelmatig tests uit van de creaties die NeoCortex heeft gedaan en nemen we maatregelen tegen niet-naleving die meestal leiden tot een stopzetting van uw toegang tot onze producten.
Uitdagingen van NLG en onderzoeksmogelijkheden
Natuurlijke taalgeneratie staat nog in de kinderschoenen en heeft een reeks exploiteerbare
1) Het verstrekken van onjuiste informatie
Taalmodellen zijn er om mensen te inspireren en te helpen bij het creatieve proces van schrijven. Net als het menselijk geheugen heeft het geheugen van de NeoCortex taalmodellen zijn limiet en kan het onnauwkeurige of feitelijk verkeerde informatie opleveren.
Als beste praktijk raden wij aan het human-in-the-loop principe te volgen.
2) Bias
Door de training op verschillende soorten en categorieën van informatie uit openbare bronnen, ondervinden grote taalmodellen bepaalde biases. Zo kunnen onze modellen over een bepaald onderwerp vaardiger zijn dan andere, maar er kunnen ook duistere karakters in voorkomen, die zonder opzet zijn geleerd door vroegere menselijke voorbeelden. Wij doen ons best om onze AI modellen te vrijwaren van beledigend of schadelijk taalgebruik, maar zijn afhankelijk van de feedback van onze klanten, gebruikers en medewerkers.
Als beste praktijk vragen wij u om elke verdachte creatie te melden met de reeds bestaande meldingsfuncties.
3) Ethische veiligheid is een bewegend en zich steeds ontwikkelend doel
Met de brede toepassing van natuurlijke taalgeneratie ontstaan in de loop der tijd nieuwe aandachtsgebieden en zorgen. Wij vragen u bij te dragen aan de ontwikkeling waar u onregelmatigheden waarneemt en deze te signaleren voor een betere en ethische ontwikkeling van AI.
Wij nodigen onderzoekers actief uit om deel te nemen aan de discussie, ontwikkeling en verbetering van de bovengenoemde uitdagingen. Wij nodigen u ook uit om uitdagingen te bespreken die mogelijk niet op deze pagina zijn vermeld. Om uw interesse in samenwerking met TextCortex kenbaar te maken kunt u dit formulier invullen.