Öğretim görevlisi Darren Hick, Abdul-Mageed ve Irene Solaiman değerlendirdi.
REKLAMGüçlü bir yapay zeka destekli yazışma motoru olan ChatGPT'nin piyasaya sürülmesinden haftalar sonra Darren Hick isimli bir öğretim görevlisi, bir öğrencisinin yapay zeka tarafından yazılmış bir ödev teslim ettiğini tespit etti.
OpenAI tarafından yayınlanan ve halka açık olan bu teknoloji akla gelebilecek hemen herşeyi yapabiliyor. Sizin talebinizle saniyeler içerisinde ikna edici bir okul ödevi yazabiliyor, bir şarkı besteleyebiliyor ya da 'aptalca' şakalar üretebiliyor.
Her ne kadar yazdıkları ikna edici olsa da her zaman doğru olduğu anlamına gelmiyor. İşte bu nokta, Güney Carolina merkezli Furman Üniversitesi'nde Doçent olan Hick'i şüphelendiren şey oldu.
euronews'e konuşan Hick "İlk alarmın öğrencimin bir filozof hakkında sınıfın bilmesini beklemeyeceğim bir şekilde konuşması oldu" diyor.
Hick "Kesin kararımı verdiren şey ise ödevin son derece iyi yazılmış olması idi. İntihal yapılan bir ödev genelde kötü yazılmış olur, hemen anlaşılır; anlatım dili değişir, yapı tam tutmaz. Fakat bunun gibi bir şeyle daha önce karşılaşmamıştım" sözlerini ekledi.
Kasım sonunda duyurulan yazılım özellikle akademi dünyasında etik tartışmalarına yol açtı.
Daha endişe verici bir durum ise yapay zekanın, kulağa son derece gerçekçi gelen yalan haberlerin yazılmasında kullanılması oldu. Bu özellikle seçimler gibi kritik olaylar öncesinde daha tehlikeli bir hal alıyor.
Bir metnin yapay zeka tarafından yazıldığını nasıl anlarsınız?
Sizi şüphelendirecek birkaç nokta olabilir.
Eğer ChatGPT'ye farklı kişiler tıpatıp aynı soruyu sorarsa hepsine birbirine benzer cevaplar verecektir.
Yani bir öğretmenseniz ve önünüze gelen bir çok ödevde birbirine benzer yapılar, benzer örnekler ya da benzer sebep-sonuç ilişkileri görüyorsanız bu metinlerin yapay zeka tarafından üretilmiş olma ihtimali yüksek demektir.
British Columbia Üniversitesi Doğal Dil İşleme ve Makine Öğrenimi Araştırma Merkezi Başkanı Muhammed Abdul-Mageed'e göre bir diğer ipucu da yapay zekanın yeni olaylara nasıl tepki verdiği olduğunu belirtiyor.
Abdul-Mageed "ChatGPT'nin zayıf noktası 2021 ve 2022 yılına ait verilerle eğitilmiş olması. Yakın zamanda meydana gelen bir hadiseyi tespit etmesi mümkün olmayacaktır," diyerek "Örneğin Fansa'nın Katar'daki Dünya Kupası'nın kazanıp kazanmadığını sizey söyleyemeyecektir. Bu tür somut verilere dayalı bilgileri vermekte zorlanacaktır," ifadelerini kullandı.
ChatGPT kullanımını tespit eden uygulama
Bazıları ise bir metnin yapay zeka tarafından yazılıp yazılmadığını tespit eden uygulamalar geliştirmeye çalışıyor.
22 yaşındaki üniversite öğrencisi Edward Tian, bir metinde ChatGPT kullanılıp kullanılmadığını tespit eden GPTZero adlı bir uygulama geliştirdiğini savunuyor.
Yapay zeka girişimi şirketi Hugging Face'in politika direktörü Irene Solaiman da henüz bir tespit metodu geliştirilmediği için bu uygulamaların doğruluğunun kesin olmadığını belirtiyor.
Solaiman "Yapay Zeka tespitinde sihirli bir çözüm yok. Tıpkı insanlar gibi bu zekalar da giderek güçlendiği için tespit modelleri sadece geriden yakalamaya çalışıyor ve hiç bir zaman mutlak çözüm sunamıyor," ifadelerini kullandı.
Abdul-Mageed'e göre tespit modelleri üzerinde çalışmak havanda su dövmekten farksız.
Yapay Zeka ekosisteminde ChatGPT'nin eğitici faydaları bolca anlatılsa da kopya çekme ihtimali Hick'i korkutuyor.
REKLAMHick "Bu yazılımla ilgili sorun kendi kendini geliştirecek şekilde tasarlanmış olması. Çok geniş bir veri tabanıyla eğitiliyor ve bu taban genişledikçe benim tespit ettiğim alarm zilleri de belki bir yıl içinde kaybolacak. Yani cin lambadan çıktı bir kere ve bu çok korkutucu," ifadelerini kullandı.
Uzmanlar da giderek gelişem yapay zeka karşısında eğitim sisteminin öğrencileri ölçme ve değerlendirme için başka yollar bulması ya da yapay zekanın gerçek dünyaya zarar vermesini önleyen kanunların koyulması gerektiğini belirtiyor.
Hick de artık her ödevi vermeden önce acaba ChatGPT bunu nasıl yapabilir diye düşündüğünü o yüzden bir ödevden yapay zeka kokusu aldığında habersiz sözlü sınavlar yapmaya karar verdiğini belirtiyor.