Yapay Zeka'da "önyargı," bir yapay zeka sisteminin veya modelinin verileri işlerken veya kararlar alırken yanlış ve adaletsiz sonuçlar üretme eğilimi olarak tanımlanır. Bu tür önyargılar, modelin eğitim verilerinde bulunan bilinçsiz veya bilinçli önyargılardan kaynaklanabilir. Böylece sistem belirli gruplara veya durumlara karşı ayrımcılık yapabilir. OpenAI, ChatGPT'nin farklı girdilerde verdiği yanıtlarda yer alan önyargıları azaltmayı ve sistemlerin daha dengeli sonuçlar üretmesini sağlamayı taahhüt eder.
