404Media’dan Emanuel Maiberg bazı basit araştırmalar yaptı ve Google Kitaplar’ın yapay zeka tarafından oluşturulan ve oldukça düşük kaliteli kitapları indekslediğini buldu. Bunları aramak için yapay zeka tarafından oluşturulan yanıtların özelliği olan “Son bilgi güncellemem itibarıyla” ifadesini kullandı ve daha önce Amazon ve Google Play’de yapay zeka kullanılarak yazılmış kitaplar bulmuş olmasına rağmen sonuçlar onu şaşırttı.
Arama sonuçlarının ilk sekiz sayfasında bu ibarenin yer aldığı kitapların çoğu, uygun olacağı yapay zeka konusuyla ilgili değildi. Örnek olarak Mayberg, yazarın “finansal piyasaların sırlarını çözmek isteyen yeni başlayanlar için kapsamlı bir rehber” olarak tanımladığı Ayılar, Boğalar ve Kurtlar: Yirmi Yaşındakiler İçin Hisse Senedi Ticareti kitabını veriyor. İçeriği, Wikipedia düzeyinde karmaşık olayların yüzeysel bir analiziyle ChatGPT tarafından oluşturulan metni anımsatıyordu.
Mybergh tarafından incelenen diğer kitaplar, 2024’te okuyucunun işine yaramayacak, açıkça güncel olmayan bilgiler içeriyordu ve bu bilgiler büyük olasılıkla ChatGPT tarafından “bilgi tabanından” derlenmişti. Örnek olarak Shu Chen Hou‘nun Mart 2024 tarihli Twitter Varlığınızı En Üst Düzeye Çıkarın: Pazarlama Başarısı için 101 Strateji adlı kitabından bahsediyor. Pek çok benzer yazarda olduğu gibi onun da bir düzineden fazla kitabı var. Twitter (artık X) hesap doğrulamasıyla ilgili çok sayfalı bölümün sonunda Mayberg şu satırları buldu: “Bildiğim kadarıyla Eylül 2021 itibarıyla Twitter, kriterlerini ve doğrulama sürecini yeniden değerlendirme ve güncelleme sürecindeydi. dolayısıyla gerekli adımlar değişmiş olabilir . ” Twitter, 2022’de Elon Musk tarafından satın alındı ve doğrulamayı ticari “onay işaretlerine” dönüştürdü.
“Şirketin, kullanıcıların Google Kitaplar’da ne aradığını bilmediğine inanamıyorum. Her şeyi indeksliyorlar, ancak AI tarafından oluşturulan materyalleri tanıyabildiklerine ve etiketlenirlerse kendilerine ve kullanıcılarına büyük bir iyilik yapacaklarına inanmak isterim ,” diye yorumladı kütüphaneci, danışman ve infoDOCKET editörü Mayberg’in bulguları hakkında.
Mayberg için özellikle endişe verici olan, bu tür kitapların, 1500’den 2019’a kadar dizine eklenen kitaplardaki ifadelerin ve tek tek kelimelerin görülme sıklığını tahmin eden profesyonel bir araç olan Google Ngram üzerindeki olası etkisidir. İlginç çünkü bilim insanları ve araştırmacılar bunu kültürel eğilimleri değerlendirmek için kullanıyor. Buna göre yapay zeka tarafından yazılan kitapların dağıtımı, Google Ngram kullanılarak yapılan analiz sonuçlarını önemli ölçüde bozabilir. Ancak bir Google sözcüsü, oluşturulan kitapların Google Ngram üzerindeki etkisini reddediyor:
“Otomatik algoritmalarımız alakalı, yüksek kaliteli kitapları bulacak şekilde ayarlandı. Belirttiğiniz kitaplar alışılmadık ve çok özel bir istek üzerine bulundu ve Ngram’ın sonuçlarını etkilemez. Ngram’ın yüksek kaliteli bir araç olarak kalmasını sağlamaya kararlıyız ve kitap yayıncılığı endüstrisi geliştikçe onu uyarlamaya devam edeceğiz.”
Dağıtılmış Yapay Zeka Araştırma Enstitüsü (DAIR) araştırma direktörü Alex Hanna, “Ngram zaten hesaplamalı sosyal bilimcilerin ve dilbilimcilerin güvenebileceği yeterince kesin olmayan veri üretiyor ve birkaç yıl içinde muhtemelen tamamen alakasız hale gelecek “ yorumunu yaptı. “ Bu, yapay zekanın kendini nasıl özümsemeye başladığının bir başka örneği. Oluşturduğu içerik Google Kitaplar’a çıkıyor ve ardından Google, kendi modellerini buna göre eğitmeye başlıyor. Evet, kaliteyi dikkatle kontrol ettiklerini söyleyecekler ama elbette detayları açıklamayacaklar.”
