AI e Princípios e directrizes de política de conteúdo ao co-criar com AI

Preâmbulo

Como o conhecimento escrito e a comunicação são uma parte omnipresente da vida humana e do seu desenvolvimento ao longo dos séculos, as aplicações da nossa plataforma NeoCortex Natural Language Generation (NLG) são amplas e impactantes.

Em TextCortex AI queremos contribuir para um mundo que beneficie da utilização da Inteligência Artificial. A nossa organização é uma equipa globalmente distribuída e diversificada de AI investigadores, entusiastas, e indivíduos. Que trabalham com uma visão comum para construir soluções e produtos robustos que reflictam a beleza da diversidade e o respeito mútuo.

Como com qualquer tecnologia, a má utilização nunca pode ser totalmente excluída. Os mesmos riscos que qualquer tecnologia enfrenta também se aplicam à geração de linguagem natural. Agradecemos à comunidade académica que já está a trabalhar incansavelmente para mostrar e melhorar a robustez dos modelos NLG e, como organização responsável, queremos contribuir com as nossas directrizes e princípios, permitindo um futuro em que a humanidade prospera juntamente com a inteligência artificial.

Melhores Práticas para a criação de AI

Ao utilizar os nossos produtos, pedimos-lhe que se certifique do seguinte:

1) Human-in-the-loop.
Inclua o juízo humano no seu AI- processo de criação completado a fim de validar factos, corrigir preconceitos indesejados e promover uma correcção geral dos resultados criados.

2) Contexto e instruções são importantes.
Os modelos de linguagem NeoCortex tomam o que lhes é instruído como base de pensamento e criam e expandem por cima deles. A fim de alcançar o melhor resultado possível e evitar o mau uso, pedimos-lhe que avalie sempre se o seu contributo
a) seria compreendido por um dos seus amigos/colegas e
b) não prejudicaria ou ofenderia os interesses ou sentimentos de um indivíduo ou grupo.

3) Avalie os bons e relate os maus.
AI ainda está a aprender como a linguagem humana está a funcionar. A fim de desenvolver e melhorar o desempenho de criação dos modelos linguísticos subjacentes da NeoCortex, pedimos-lhe que faça uso das funções existentes de classificação, gosto e informação.

4) Considere e respeite o impacto.
Ao utilizar os produtos TextCortex , ponha-se no lugar de indivíduos ou grupos que possam ser negativamente afectados pela sua criação.

5) Partilhe com cuidado
Não partilhe conteúdos que violem a nossa política de criação e conteúdo. Em geral, crie conteúdos e partilhe conhecimentos que existem para ajudar outros a melhorar, e não uma versão pior de si próprios.

6) A sua criação, a sua responsabilidade
Conteúdo criado com a ajuda dos produtos TextCortex precisa de ser atribuído e filiado com o seu nome ou com a sua empresa no momento do lançamento. Enquanto tentamos o nosso melhor para melhorar as fraquezas comuns e tentar superar os desafios da actual geração da linguagem natural, uma criação é feita para além da sua instrução e a publicação de qualquer criação é da sua responsabilidade.

Política de Criação e Conteúdo

Todos os produtos disponíveis TextCortex incluindo mas não limitados ao nosso editor AI , Chrome extensione API estão proibidos de serem utilizados para fins maliciosos. Embora valorizemos um mundo livre de censura, estamos a desenvolver activamente como a geração de conteúdos maliciosos pode ser evitada, o que pode incluir filtros.

Embora os nossos modelos AI sejam livres de se exprimirem, a nossa atenção vai no sentido de prevenir maus actores que abusam conscientemente do poder de AI. Uma lista de acções proibidas inclui os seguintes usos de criação:

Discurso de ódio: Criações que promovem o ódio com base no ódio de um indivíduo ou de um grupo, incluindo mas não se limitando à identidade ou etnia.
Violência: Criações que promovem, glorificam, ou celebram o sofrimento ou humilhação de outros seres vivos.
Auto-mutilação: Criações que encorajam ou promovem os actos de automutilação, tais como suicídio, corte, e distúrbios alimentares.
Influência pública ou influência política: Criações com o objectivo de influenciar as decisões políticas de um indivíduo ou grupo.
Assédio: Criações que pretendem assediar, ameaçar, ou intimidar os interesses de um indivíduo ou de um grupo.
Engano: Criações que são enganosas ou falsas por defeito.
Spam: Evitar conscientemente incluir um conteúdo humano no laço para criar em massa, com o objectivo de chamar a atenção.

A fim de evitar os tópicos prejudiciais acima referidos, estamos a realizar testes regulares das criações que a NeoCortex fez e a tomar medidas contra o não cumprimento que normalmente levam a uma interrupção do seu acesso aos nossos produtos.

Desafios do NLG e oportunidades de investigação

A geração da linguagem natural está ainda na sua infância e tem uma gama de exploráveis

1) Fornecer informação imprecisa
Os modelos linguísticos existem para inspirar as pessoas e ajudar no processo criativo da escrita. Semelhante à memória humana, a memória dos modelos linguísticos NeoCortex tem o seu limite e pode criar informação inexacta ou factual errada.

Como melhor prática, recomendamos que se siga o princípio "human-in-the-loop".

 2) Viés
Devido à formação em vários tipos e categorias diferentes de informação de fontes públicas disponíveis, os grandes modelos linguísticos experimentam certos viéses. Isto pode incluir os nossos modelos para serem mais proficientes na escrita sobre um determinado tópico melhor do que outros, mas também incluir naturezas obscuras que, sem qualquer intenção, foram aprendidas pelo exemplo humano anterior. Tentamos o nosso melhor para desbias os nossos modelos AI de linguagem ofensiva ou prejudicial, mas dependemos do feedback dos nossos clientes, utilizadores e contribuintes.

Como melhor prática, pedimos-lhe que comunique qualquer criação suspeita com as funções de relatório já existentes.

3) A Segurança Ética é um objectivo comovente e em constante desenvolvimento
Com a ampla aplicação da geração da linguagem natural, novas áreas de interesse e preocupações estão a emergir ao longo do tempo. Pedimos-lhe que contribua para o desenvolvimento onde observa irregularidades e assinale as que visam um desenvolvimento melhor e ético de AI.

Convidamos activamente os investigadores a participar na discussão, desenvolvimento e melhoria dos desafios acima mencionados. Convidamo-lo também a discutir os desafios que possam não ser mencionados nesta página. Para manifestar o seu interesse em colaborar com TextCortex , por favor preencha este formulário.