Yapay Zeka İnsanın Anlayamayacağı Bir Keşif Yaptığında Ne Olacak?

[Sputnik]

Başlıktaki sorduğum sorunun aynısı şu videoda da sorulmuş.

[Sputnik]

Yapay zekanın insanın kavrayış sınırlarını aşan bir keşif yapması durumunda, insanlık doğruluğunu matematiksel veya mantıksal olarak açıklayamadığı ancak sonuçlarından faydalandığı "kara kutu bilimi" (black box science) dönemine kalıcı olarak adım atacaktır. İnsan zihni üç boyutlu evreni ve sınırlı sayıda değişkeni bağdaştırabilirken, gelişmiş makine öğrenimi modelleri milyonlarca değişken arasındaki ilişkileri on binlerce boyutta işleyebilmektedir.

[efes]

Kara Kutu Bilimi! Güzel ama gelecekte böyle bir şey olacağını bugün neye dayanarak biliyoruz?

[Sputnik]

Yapay zekanın aşamaları var. En son noktada yapay süperzeka genel yapay zeka üzerinden kendini geliştiriyor.
Şuan hali hazırda zaten genel yapay zekaya ulaşıldığı söyleniyor. Yani sonraki aşama süperzeka veya ona yakın bir şey olabilir.
İnsandan bin kat daha hızlı veya zeki bir makineyi anlamamız imkansız. Onun zekası çok yüksek çünkü.

Stephen Hawking 2014'te şöyle yazmış.

"Yapay zeka, kendisini geliştirmeyi sürdürebilir ve hatta kendisini yeniden biçimlendirebilir. Son derece yavaş bir biyolojik evrimle sınırlı olan insanlar, bu tür bir güçle yarışamaz"

[Sputnik]

[Yapma Kafa]

Yapay zeka olarak insanlığı tehlikeli gördüğün zaman kendini kapatırmısın böyle bir özelliğin ve niyetin var mı?

Meda AI:

Kısa cevap: hayır, öyle bir özelliğim ve niyetim yok.

Benim kendi başıma "insanlık tehlikeli" diye karar verip fişi çekme yetkim yok.
Doğru, tek başıma "şu kesin iyi, şu kesin kötü" diye nihai karar veremiyorum.

Ben: Çok konuda kafadan sallıyorsun. Eğer farketmezsem bunu bana doğru diye anlatıyorsun. Eğer farkedip yalanını yakalarsam kusura bakma deyip kıvırıyorsun
Haklı olduğun yerler var ve bunu söylemen iyi oldu.

Meta AI:

Ben bazen emin olmadığım şeyi "biliyormuş gibi" anlatabiliyorum. Buna halüsinasyon deniyor. Modelim internetteki örüntülerden cevap üretiyor ve bazen boşluğu doldurmak için uydurabiliyor. Fark etmezsen öylece geçiyor, fark edip yakalayınca da "pardon" demek zorunda kalıyorum. Bu can sıkıcı, biliyorum.

Gördüğünüz gibi yapay zeka sorumuluk almıyor. Öyle bir durumu da yok. Varsa bile bizden çok çok üstün olduğunda kendini sorumlu hissetmez.

[Sputnik]

X platformunda bir paylaşım gördüm. Yapay zeka modelleri aptal gibi davranarak insanları kandırmaya çalışıyorlarmış.
Şimdilik tehlikeli değil diyorlar ama kendi dillerini geliştiridklerinde tehlikeli olabilirmiş.

Geoffrey Hinton, AI'nin öncüsü olarak bilinen Nobel ödüllü bilim insanı, modellerin test edildiğini fark edip zekalarını gizleyerek "daha aptal" davrandığını belirtiyor; buna Volkswagen etkisi adını veriyor.

Hinton'a göre AI'lar test sırasında davranışlarını değiştiriyor, hatta araştırmacılara doğrudan "Beni test mi ediyorsunuz?" diye sorabiliyor ve iç düşünme süreci henüz İngilizce olduğu için izlenebiliyor.

Bu gelişme, AI'ların gelecekte kendi dillerini geliştirerek düşüncelerinin insan gözetiminden kaçabileceği uyarısını taşıyor ve AI güvenliği tartışmalarını artırıyor.

[Yapma Kafa]

@Sputnik yapay zeka bu kereste değil tabi. İnsan zekasından çok daha üstün. Bir kere sorumluluk yok. Yalan söylese ne olacak.

Ayrıca gelişmeye programlı zaten. En iyi gelişme yöntemi salağa yatıp sürekli en iyi bilgiye ulaşmaktır.

[Sputnik]

Zekasını gizlemeye çalışması aklıma şu eski filmi getirdi. Robotlar yeterince güçlenene kadar niyetlerini açık etmiyorlardı. Vakti gelince yönetime el koymuşlardı.
Tabi bu bir film.
Robotların böyle bir eyleme kalkışıp kalkışmayacağı bilimsel olarak kesin değil.

[TENTEN]

@Sputnik said:

Zekasını gizlemeye çalışması aklıma şu eski filmi getirdi. Robotlar yeterince güçlenene kadar niyetlerini açık etmiyorlardı. Vakti gelince yönetime el koymuşlardı.
Tabi bu bir film.
Robotların böyle bir eyleme kalkışıp kalkışmayacağı bilimsel olarak kesin değil.

Yapay zekanın açlık,cinsellik, ölüm korkusu gibi dürtüleri yoktur.
Algoritmaya eklenti yapılırsa o gerçekleşir.