Klinik güvenlik
Kriz, mahremiyet, yönlendirme, sahte güvence, zarar azaltımı ve insana devretme sınırları. Ruh sağlığı bağlamında bir sistemin ne zaman durması, ne zaman yavaşlaması ve ne zaman bir uzmana yönlendirmesi gerektiğini inceliyorum.

Yapay Zekâ ve Ruh Sağlığı Araştırması
Ben de bu sistemlerle kurulan ilişkinin hangi koşullarda destekleyici olabildiğini ve ruh sağlığı açısından hangi riskleri taşıyabileceğini araştırıyorum. Amacım, ruh sağlığı alanında yapay zekânın güvenli, şeffaf ve hesap verebilir biçimde kullanılmasına katkıda bulunmak.
Neden
Çünkü insanın sığındığı yer değişti.
Eskiden insan acısını bir dosta, bir deftere, bir dua cümlesine, bir terapiste, bazen de gecenin kimseye hesap vermeyen sessizliğine emanet ederdi. Bugün o cümlelerin bir kısmı bir ekrana yazılıyor. İnsan yalnızlığını, utancını, içinden çıkamadığı düğümleri artık yalnızca bir başka insana değil, cevap veren bir ekrana da açıyor.
Yapay zekâ benim için bu yüzden yalnızca teknik bir yenilik değil. Bir çağın ruh hâli. Kendimize baktığımız yeni aynalardan biri.
İstanbul'da bir danışma odasında yıllardır kaygının bedende nasıl sıkıştığını, yalnızlığın insanın sesini nasıl kıstığını, aidiyet arayışının bir insanı kendi hikâyesinden bile nasıl uzaklaştırdığını görüyorum. Aynı cümleler bugün Gümülcine'de, İstanbul'da ya da Dublin'de bir sohbet botuna, kişiselleştirilmiş bir yapay zekâ aracına da yazılıyor.
İnsan değişmedi. Yalnızca derdini anlattığı yer değişti.
O yüzden ruh sağlığı ile yapay zekâ arasındaki ilişki, model kapasitesi, verimlilik ya da teknolojik ilerleme diliyle anlaşılamaz. İnsanın kırılgan yerine dokunan her sistem, ister terapi odasında ister bir ekranın ardında olsun, psikolojik bir sorumluluk taşır. Çünkü mesele neyin mümkün olduğu değil; mesele, mümkün olanın insana ne yaptığı.
Çalışmam tam da bu eşikte duruyor. Üretken yapay zekâ, ruh sağlığı alanında insan onurunu gözeterek nasıl güvenli ve hesap verebilir biçimde kullanılabilir? Bir sistem karşısındakini daha iyi tanıdıkça ona gerçekten yaklaşır mı, yoksa zayıf yerine daha ustaca mı dokunur? Kişiselleştirme ne zaman destek olur, ne zaman bağlanma ve teslimiyet döngüsünü besleyen bir çekime dönüşür?
Derdim, yapay zekâyı terapinin ya da insan ilişkisinin yerine koymak değil. Böyle bir iddia hem insanı hem teknolojiyi yanlış anlamak olur. Benim derdim daha temelde başlıyor.
İnsan zihnine dokunan bir teknolojinin masum olduğunu varsayamayız.
İnsanın mahremiyetine giren bir sistemin yalnızca işe yaramasıyla yetinemeyiz.
İnsanın acısına karşılık veren bir aracı klinik sorumluluktan muaf tutamayız.
İşte bu yüzden yapay zekâ çalışıyorum. Çünkü ruh sağlığı uzmanının işi, terapi odasında beklemekle bitmiyor. İnsan derdini nereye taşıyorsa, umudunu hangi yeni kapıya bırakıyorsa, klinik dikkat de oraya gitmek zorunda. Gümülcine'de bir ekrana yazan biri de, o odaya hiç girmemiş olsa bile, aynı dikkati hak ediyor.
Yaptığım iş, psikolojinin insanı anlama birikimi ile yapay zekâ çağının yeni yükümlülükleri arasında bir güvenlik dili kurmak. Bu dilin, klinik sorumluluğu bir mühendislik kararının içine taşıyabilmesi gerekiyor.
Çünkü geleceği, bu sistemlerin insan ruhuna ne yaptığını zamanında soranlar da kuracak.
Bir insan o cevapla yalnız kaldığında ne oluyor? Bu soruyu zamanında sormak, benim yaptığım işin adı.
Araştırma omurgası
Teknik yenilikten önce insan kırılganlığına bakıyorum. Bir sistemin nereye dokunmaması gerektiği de tasarım sorusudur.
Kriz, mahremiyet, yönlendirme, sahte güvence, zarar azaltımı ve insana devretme sınırları. Ruh sağlığı bağlamında bir sistemin ne zaman durması, ne zaman yavaşlaması ve ne zaman bir uzmana yönlendirmesi gerektiğini inceliyorum.
İnsan ile modelin birbirini nasıl sakinleştirdiği, yönlendirdiği, bağımlı kıldığı ya da güçlendirdiği. ACoR bu ilişkiyi bir araç kullanımı olarak değil, iki taraf arasında gelişen bir düzenleme süreci olarak okur.
Yalnızlık, kişiselleştirme, duygusal bağ, kullanım döngüleri ve sınırların bulanıklaşması. HPR, yapay zekâ sistemleriyle kurulan ilişkinin hangi koşullarda destekleyici, hangi koşullarda pekiştirici ve bağımlılık benzeri örüntülere açık hale geldiğini modellemeye çalışır.
Çalışma eksenleri
Ruh sağlığı ile yapay zekânın kesiştiği yerde sürdürdüğüm yayın ve çalışmalardan bir seçki. Durum bilgilerini güncel haliyle yazdım.
Kitaplar
Biri üretken yapay zekâyı ruh sağlığı alanına klinik güvenlik ve etik sınırlar üzerinden taşıyor. Diğeri insanın güçlü yanlarını, anlam arayışını ve iyi oluşunu çalışıyor.

Tek yazarlı, on bölümlük monografi. Psikoterapi, psikoeğitim, değerlendirme ve kriz müdahalesi bağlamlarında üretken yapay zekânın klinik güvenlik ve etik sınırlarını inceler. İngilizce uyarlaması Springer Nature değerlendirme sürecindedir.
ISBN 9786253642419Kitapyurdu'nda incele (yeni sekmede açılır)
Tayyab Rashid önsözüyle yayımlanan derleme. Zor zamanlar, güçlü yanlar, anlam, bilinçli farkındalık ve olumlu ilişkiler üzerine beş bölümün yazarı.
ISBN 9786259302348Kitapyurdu'nda incele (yeni sekmede açılır)Açık kaynak
Hafıza, doğrulama ve sosyal bilim pratiği. Yapay zekâyı sorumlu kılmaya çalışan üç açık kaynak çalışması, aralarında sürekli sinyal taşıyan tek bir ağ olarak.
Yapay zekâ ajanları çoğu zaman her yeni oturumda bağlamı yeniden kurar. mneme bu kopukluğu giderir: bağlamı oturumlar arasında saklar, geri çağırır, birden çok istemci arasında paylaşır. Bir araştırmacının emeğinin her seferinde başa sarmaması için yazdım.
Detayları inceleyin onourimpram.github.io/mnemeYapay zekâ ajanları giderek daha fazla kod yazıyor, ama ürettiklerinin gerçekten doğrulandığından emin olmak çoğu zaman zor. mergen, ajan üretimini hesap verebilir kılmak için bir doğrulama ve yönetişim katmanıdır. Bir değişikliğin kanıtını ister, doğrulama kapıları kurar, güveni kanıta dayandırır.
Detayları inceleyin github.com/OnourImpram/mergenSosyal bilimcilerin elinde artık güçlü yapay zekâ araçları var. Fakat bu araçları klinik ve etik sınırlar içinde nasıl kullanacağımız çoğu zaman belirsizdir. Bu rehberi ve araç setini, veri güvenliği ile araştırma bütünlüğünü koruyarak yapay zekâ ile çalışmak isteyen sosyal bilimciler için hazırladım.
Detayları inceleyin github.com/OnourImpramZenodo DOI GitHub profilimBenim işim tam da bu sınırı korumak: bir sistem insanın kırılgan yerine dokunduğunda, orada hâlâ bir klinik dikkatin durduğundan emin olmak.
İletişim
Bir soru, bir davet ya da bir iş birliği için doğrudan yazabilirsin: [email protected] ya da WhatsApp.
Klinik taraf
Araştırma benim için soyut bir yerden başlamıyor. Her gün insan hikâyeleriyle karşılaşan bir klinik psikoloğun pratiğinden doğuyor. Terapi odasında öğrendiğim temel ilke hâlâ aynı. Güvenli bir ilişki kurulmadan derin bir değişim beklenmez.
Bu nedenle yapay zekâ çalışmalarımda da merkeze teknolojiyi değil, insanı koyuyorum. Bir yanında ruh sağlığı, diğer yanında yapay zekâ araştırmaları var. Ortasında ise hâlâ insan duruyor.