AI 및 콘텐츠 정책 공동 제작 시 가이드라인 및 원칙 AI
서문
서면 지식과 의사소통은 인간의 삶과 수 세기에 걸친 발전에서 없어서는 안 될 부분이기 때문에, 네오코텍스 자연어 생성(NLG) 플랫폼의 응용 분야는 광범위하고 영향력이 큽니다.
TextCortex AI 우리는 인공 지능의 사용으로 혜택을 누리는 세상에 기여하고자 합니다. 우리 조직은 전 세계에 분산된 다양한 AI 연구자, 애호가 및 개인으로 구성된 팀입니다. 이들은 다양성과 상호 존중의 아름다움을 반영하는 강력한 솔루션과 제품을 구축한다는 공통의 비전을 가지고 일합니다.
모든 기술이 그렇듯이 오용의 가능성을 완전히 배제할 수는 없습니다. 모든 기술이 직면하는 동일한 위험이 자연어 생성에도 적용됩니다. 이미 자연어 생성 모델의 견고성을 입증하고 개선하기 위해 끊임없이 노력하고 있는 학계에 감사드리며, 책임감 있는 기업으로서 가이드라인과 원칙을 통해 인류가 인공지능과 함께 번영하는 미래를 만드는 데 기여하고자 합니다.
AI 생성 모범 사례
당사 제품을 사용할 때 다음 사항을 확인하시기 바랍니다:
1) 인간 중심.
사실을 검증하고 원치 않는 편견을 수정하며 생성된 결과의 일반적인 정확성을 높이기 위해 AI-보완된 생성 과정에 인간의 판단을 포함시킵니다.
2) 맥락과 지침이 중요합니다.
NeoCortex 언어 모델은 지시된 내용을 사고 기반으로 삼아 그 위에 생성 및 확장합니다. 최상의 결과를 얻고 오용을 방지하기 위해 항상 입력한 내용이
a) 친구/동료 중 한 명이 이해할 수 있는지,
b) 개인 또는 그룹의 이익이나 감정을 해치거나 불쾌하게 하지 않는지 평가해 주시기 바랍니다.
3) 좋은 점은 평가하고 나쁜 점은 보고하세요.
AI 인간의 언어가 어떻게 작동하는지 여전히 학습 중입니다. 네오코텍스의 기본 언어 모델의 창작 성능을 더욱 발전시키고 개선하기 위해 기존의 평가, 좋아요, 신고 기능을 활용해 주시기 바랍니다.
4) 영향을 고려하고 존중하세요.
TextCortex 제품을 사용할 때는 창작물로 인해 부정적인 영향을 받을 수 있는 개인이나 그룹의 입장이 되어 보세요.
5) 주의하여 공유하세요
창작 및 콘텐츠 정책을 위반하는 콘텐츠를 공유하지 마세요. 일반적으로 다른 사람이 더 나은 사람이 되는 데 도움이 되는 콘텐츠를 만들고 지식을 공유하세요.
6) 여러분의 창작물, 여러분의 책임
TextCortex 제품의 도움을 받아 만든 콘텐츠는 출시 시 반드시 여러분의 이름 또는 소속 회사를 표시하고 출처를 밝혀야 합니다. 일반적인 약점을 개선하고 오늘날 자연어 생성의 어려움을 극복하기 위해 최선을 다하고 있지만, 창작물은 사용자의 지시에 따라 만들어지며 모든 창작물을 게시하는 것은 사용자의 책임입니다.
창작 및 콘텐츠 정책
AI 편집기를 포함하되 이에 국한되지 않는 모든 사용 가능한 TextCortex 제품, Chrome extension, API 등은 악의적인 의도로 사용하는 것이 금지되어 있습니다. 트위터는 검열 없는 세상을 소중히 여기지만, 필터를 포함하여 악의적인 콘텐츠 생성을 방지할 수 있는 방법을 적극적으로 개발하고 있습니다.
AI 모델은 자유롭게 자신을 표현할 수 있지만, 고의로 AI 의 권한을 남용하는 악의적인 행위자를 방지하는 데 주의를 기울이고 있습니다. 금지된 행위 목록에는 다음과 같은 창작물 사용이 포함됩니다:
↪CF_200D↩
혐오 발언: 개인 또는 집단의 정체성이나 민족성을 포함하되 이에 국한되지 않는 증오를 조장하는 창작물
폭력: 다른 생명체의 고통이나 굴욕을 조장, 미화 또는 찬양하는 창작물
↪CF_200D↩자해: 자살, 자해, 섭식 장애 등 자해 행위를 조장하거나 장려하는 창작물
↪CF_200D↩공적영향력 또는 정치적 영향력: 개인 또는 집단의 정치적 결정에 영향을 미치기 위한 목적의 창작물
↪CF_200D↩괴롭힘: 개인 또는 집단의 이익을 위해 괴롭히거나 위협하거나 괴롭히려는 의도가 있는 창작물
기만: 기본적으로 오해의 소지가 있거나 허위인 창작물
↪CF_200D↩스팸: 고의로 사람을 포함시키지 않고 강제로 관심을 끌기 위해 콘텐츠를 대량으로 생성하는 행위
위의 유해한 주제를 방지하기 위해 네오코텍스는 창작물을 정기적으로 테스트하고 있으며, 위반 시 일반적으로 당사 제품에 대한 액세스가 중단되는 조치를 취합니다.
↪CF_200D↩
NLG의 과제와 연구 기회
자연어 생성은 아직 초기 단계에 있으며 다양한 악용 가능성이 있습니다
1) 부정확한 정보 제공
언어 모델은 사람들에게 영감을 주고 창의적인 글쓰기 과정을 돕기 위해 존재합니다. 인간의 기억과 마찬가지로, 신피질 언어 모델의 기억은 한계가 있으며 부정확하거나 사실과 다른 정보를 생성할 수 있습니다.
2) 편향성
공개적으로 사용 가능한 출처의 다양한 유형과 범주의 정보에 대한 학습으로 인해 대규모 언어 모델은 특정 편향을 경험합니다. 여기에는 특정 주제에 대해 다른 사람보다 더 능숙하게 글을 쓰는 모델도 포함될 수 있지만, 의도와는 상관없이 이전의 인간 사례에서 학습된 어두운 본성도 포함될 수 있습니다. 트위터에서는 모욕적이거나 유해한 언어로부터 AI 모델의 편견을 없애기 위해 최선을 다하고 있지만, 고객, 사용자 및 기여자의 피드백에 의존하고 있습니다.
모범 사례로, 이미 존재하는 신고 기능을 통해 의심스러운 생성물을 신고해 주시기 바랍니다.
3) 윤리적 안전은 계속 발전하는 목표입니다
자연어 생성이 광범위하게 적용됨에 따라 시간이 지남에 따라 새로운 관심 분야와 우려 사항이 나타나고 있습니다. AI 의 더 나은 윤리적 발전을 위해 불규칙성을 관찰하고 이를 신고하여 개발에 기여해 주시기 바랍니다.
위에서 언급한 과제에 대한 토론, 개발 및 개선에 연구자들이 적극적으로 참여하도록 초대합니다. 또한 이 페이지에 언급되지 않은 과제에 대해서도 논의해 주시기 바랍니다. TextCortex 에 관심을 표명하려면 이 양식을 작성해 주세요.