AI & Directrices y principios de la política de contenidos cuando se co-crea con AI
Preámbulo
Dado que el conocimiento y la comunicación escritos forman parte omnipresente de la vida humana y de su desarrollo a lo largo de los siglos, las aplicaciones de nuestra plataforma de generación de lenguaje natural (NLG) NeoCortex son amplias y de gran impacto.
En TextCortex AI queremos contribuir a un mundo que se beneficie del uso de la Inteligencia Artificial. Nuestra organización es un equipo diverso y distribuido globalmente de investigadores, entusiastas e individuos de AI . Que trabajan con una visión común para construir soluciones y productos sólidos que reflejen la belleza de la diversidad y el respeto mutuo.
Como ocurre con cualquier tecnología, nunca puede excluirse por completo el uso indebido. Los mismos riesgos a los que se enfrenta cualquier tecnología se aplican también a la generación de lenguaje natural. Estamos agradecidos a la comunidad académica que ya está trabajando incansablemente para mostrar y mejorar la solidez de los modelos NLG y, como organización responsable, queremos contribuir con nuestras directrices y principios, permitiendo un futuro en el que la humanidad prospere junto con la inteligencia artificial.
Buenas prácticas para la creación de AI
Cuando utilice nuestros productos, le pedimos que se asegure de lo siguiente:
1) Human-in-the-loop.
Incluyael juicio humano en su proceso de creación complementado por AI para validar los hechos, corregir los sesgos no deseados y fomentar la corrección general de los resultados creados.
2) El contexto y las instrucciones importan.
Los modelos lingüísticos de NeoCortex toman como base de pensamiento lo que se les indica y crean y amplían a partir de ahí. Para conseguir el mejor resultado posible y evitar usos incorrectos, te pedimos que evalúes siempre si tu entrada
a) sería entendida por uno de tus amigos/colegas y
b) no dañaría ni ofendería los intereses o sentimientos de un individuo o grupo.
3) Valore lo bueno e informe de lo malo.
AI todavía está aprendiendo cómo funciona el lenguaje humano. Con el fin de seguir desarrollando y mejorando el rendimiento de creación de los modelos lingüísticos subyacentes de NeoCortex, te pedimos que hagas uso de las funciones existentes de calificar, gustar y denunciar.
4) Considera y respeta el impacto.
Cuandoutilices productos de TextCortex , ponte en el lugar de las personas o grupos que puedan verse afectados negativamente por tu creación.
5)Comparte con cuidado
No compartas contenidos que infrinjan nuestra política de creación y contenidos. En general, crea contenidos y comparte conocimientos que estén ahí para ayudar a los demás a ser mejores, no una versión peor de sí mismos.
6) Tu creación, tu responsabilidad
Los contenidos creados con la ayuda de los productos de TextCortex deben ser atribuidos y afiliados con tu nombre o el de tu empresa en el momento de su publicación. Aunque hacemos todo lo posible para mejorar los puntos débiles comunes y tratar de superar los desafíos de la generación de lenguaje natural de hoy en día, una creación se hace en la parte superior de su instrucción y la publicación de cualquier creación es su responsabilidad.
Política de creación y contenidos
Todos los productos TextCortex disponibles, incluidos, entre otros, nuestro editor AI , Chrome extensiony API tienen prohibido su uso con fines maliciosos. Aunque valoramos un mundo libre de censura, estamos desarrollando activamente la forma de prevenir la generación de contenidos malintencionados, lo que podría incluir filtros.
Mientras que nuestros modelos AI son libres de expresarse, nuestra atención se centra en prevenir a los malos actores que abusan a sabiendas del poder de AI. Una lista de acciones prohibidas incluye los siguientes usos de creación:
Discurso de odio: Creaciones que promueven el odio basado en la identidad o etnia de un individuo o grupo.
Violencia: Creaciones que promueven, glorifican o celebran el sufrimiento o la humillación de otros seres vivos.
Autolesión: Creaciones que fomentan o promueven los actos de autolesión, como el suicidio, la ablación y los trastornos alimentarios.
Influencia pública o influencia política: Creaciones cuyo objetivo es influir en las decisiones políticas de un individuo o grupo.
Acoso: Creaciones cuyo objetivo es acosar, amenazar o intimidar los intereses de un individuo o grupo.
Engaño: Creaciones engañosas o falsas por defecto.
Spam: Evitar a sabiendas incluir a un humano en el bucle para crear contenidos en masa con el fin de llamar la atención a la fuerza.
Con el fin de prevenir los temas perjudiciales mencionados anteriormente, realizamos pruebas periódicas de las creaciones realizadas por NeoCortex y tomamos medidas contra el incumplimiento de las mismas, que suelen conllevar la interrupción de tu acceso a nuestros productos.
Desafíos del GNL y oportunidades de investigación
La generación de lenguaje natural aún está en pañales y tiene una serie de posibilidades que se pueden aprovechar
1) Proporcionar información inexacta
Los modelos lingüísticos están ahí para inspirar a la gente y ayudar en el proceso creativo de la escritura. Al igual que la memoria humana, la memoria de los modelos lingüísticos de NeoCortex tiene sus límites y puede crear información inexacta o errónea.
Comomejor práctica, recomendamos seguir el principio de "humano en el bucle".
2) Sesgo
Debido al entrenamiento con distintos tipos y categorías de información procedente de fuentes públicas, los grandes modelos lingüísticos experimentan ciertos sesgos. Esto puede hacer que nuestros modelos sean más competentes a la hora de escribir sobre un determinado tema que otros, pero también puede incluir naturalezas oscuras que sin intención fueron aprendidas por ejemplos humanos anteriores. Hacemos todo lo posible por evitar que nuestros modelos de AI utilicen un lenguaje ofensivo o dañino, pero dependemos de los comentarios de nuestros clientes, usuarios y colaboradores.
Como buena práctica, le pedimos que informe de cualquier creación sospechosa con las funciones de informe ya existentes.
3) Laseguridad ética es un objetivo en movimiento y en constante desarrollo
Con la amplia aplicación de la generación de lenguaje natural, con el tiempo van surgiendo nuevas áreas de interés y preocupaciones. Le pedimos que contribuya al desarrollo cuando observe irregularidades y las señale para un desarrollo mejor y más ético de AI.
Invitamos activamente a los investigadores a participar en el debate, el desarrollo y la mejora de los retos mencionados. También le invitamos a debatir retos que puedan no estar mencionados en esta página. Para expresar su interés en colaborar con TextCortex , rellene este formulario.