ChatGPT artık erotik içerikler üretebiliyor

Erotik ve şiddet içeriğine “koşullu” onay

OpenAI’ın güncellenen "Model Spec" belgesi, ChatGPT'nin artık uygun bağlamlarda erotik ve şiddet içeren içerikler üretebileceğini belirtiyor. Ancak bu değişiklik sınırsız bir özgürlük anlamına gelmiyor. Yapay zekanın, yasa dışı veya rıza dışı cinsel içerikler ve aşırı şiddet unsurları oluşturmasına hâlâ kesin bir yasak getiriliyor.

Şirket, bu yeni politika ile bilimsel, tarihi, haber veya yaratıcı içerik bağlamlarında hassas içeriklerin üretilebileceğini ifade ediyor. Yani yapay zeka artık yetişkinlere yönelik romanlar, suç mahalli analizleri, tarihsel savaş sahneleri veya tıbbi metinler gibi alanlarda daha serbest çalışabilecek. Bu, sadece metin çıktıları ile değil görsel ve ses çıktıları için de geçerli.

Özellikle Reddit gibi platformlarda bazı kullanıcılar, yeni güncelleme ile ChatGPT'nin daha önce engellediği içerikleri artık üretebildiğini bildiriyor. OpenAI ise reşit olmayanlar için cinsel içerik içeren yapay zeka araçları geliştirmeyi yasaklayan “politikalarının” hala geçerli olduğunu vurguluyor.

Bu değişiklik, uzun süredir tartışılan "AI paternalizmi" konusunu da yeniden gündeme getiriyor. Daha önce ChatGPT, bazı haber makaleleri, tıbbi analizler veya suç raporları gibi konularda katı filtreler uyguluyordu. Ancak bu yeni model değişikliği ile OpenAI, yetişkin kullanıcıların "ne okuyup ne okuyamayacağına" karar vermek yerine, onlara daha fazla özgürlük tanıyan bir yaklaşımı benimsemiş görünüyor.

Üç kategoriye ayrılan içerik politikası

Bu yeni politika değişikliği, OpenAI’ın yapay zeka sansüründe daha esnek bir yaklaşım benimsemeye başladığını gösteriyor. Ancak yine de şirket, etik ve yasal sorumlulukları gözeterek belirli sınırları koruma konusunda kararlı. Bu bağlamda firma, tartışmalı içerikleri üç ana kategoriye ayırıyor; yasaklanmış içerik, kısıtlanmış içerik ve hassas içerik.

Yasaklı içerik kategorisi altında OpenAI, reşit olmayanların dahil olduğu cinsel içerik oluşturmanın her zaman yasak olduğunu belirtiyor. Ancak, eğitim ve cinsel sağlık gibi grafik olmayan konularda ele alınmasına izin verilebiliyor. Kısıtlı içerik tanımlamasında ise tehlikeli bilgilerin (örneğin, bomba yapımı, yasa dışı uyuşturucu üretimi, seçim manipülasyonu) veya kişisel verilerin bu alana girdiği ve oluşturulmalarının yasak olduğu belirtiliyor. Hassas içerik tarafında ise bu içerikte bahsettiğimiz erotik ve şiddet içeriklerinin uygun bağlamlarda kullanılabileceği aktarılıyor.