Kişisel Etik Danışmanlar ve ETVZ: Teknoloji Çağında İnsanlık Mimarisi (Conceptual / Thought Leadership Paper)

Gizliliği Bozmadan, Vicdanı Merkezileştirmeden, Felaketi Önlemek Mümkün mü?

Önsöz: Neden Şimdi?

İnsanlık tarihinin önemli bir dersi var: En yıkıcı kararlar çoğu zaman küçük gruplar tarafından, gizli alınır ve iyi niyet iddiasıyla savunulur. Soykırımlardan ırk deneylerine, gizli istihbarat operasyonlarından siyasi suikastlara kadar, bu kararları almış olanlar çoğu zaman kendilerini haklı saymışlardır.

Bugün ise tarih bir farklı hızda yazılıyor. Teknoloji öyle bir noktaya ulaştı ki:

• Tek bir yapay zeka algoritması milyonların karar alma sürecini belirleyebilir
• Tek bir biyolojik araştırma yapısı patojenik değişkenlere neden olabilir
• Tek bir siber operasyon kritik altyapıyı felç edebilir
• Tek bir nöro-teknoloji uygulaması insan bilincini değiştirebilir

Bu bağlamda, tarihsel soru artık kaçınılmaz hale geliyor:

İnsanlık için ciddi risk barındıran kararları, yalnızca insan vicdanına ve kurumların iyi niyetine bırakmak yeterli mi?

Bu makale, bu soruya bir cevap değil, bir mimari öneri sunmaktadır: ETVZ – Etik Temelli Vicdani Zekâ ve kişisel etik danışmanlar sistemi.

I. Problemin Tanımlanması: Kontrol Paradoksu

A. Teknolojik Güç ve Etik Farkın Büyümesi

Son otuz yıl, insanlığın üretim kapasitesiyle, etik kapasite arasındaki açılmanın tarihi olmuştur.

Blockchain’den yapay zekaya, sentetik biyolojiden nöro-teknolojiye – bu teknolojilerin tümü otorite yapılarından daha hızlı evrilmektedir. Düzenleyiciler tepkimesiz kalırken, inovasyonlar gerçeğe dönüştürülüyor.

B. İyi Niyet Yetersizliği

İyi niyetli insanlar da, sistemik hatalar yapabilir. Tarih buna dolu:

• Çevre mühendisleri, asbestin güvenli olduğuna iyi niyetle inanmışlardır
• Doktorlar, lobutomi işlemini bilimsel olarak savunmuşlardır
• Sosyal medya mimarları, algoritmaları bölünmeyi artıracak şekilde tasarlamadıklarını düşünmüştür

İyi niyet, tek başına risk yönetimi değildir.

C. Gözetim Paradoksu

Öte yandan, sorun şu: Risk yönetimi için gerekli olan merkezi kontrol, tarih boyunca totalitarizme dönüşmüştür.

• Gözetim sistemi kurulmuş mü? Diktatörlüğe yol açar.
• Kontrol merkezileşmiş mi? Gücü kötüye kullanmak kaçınılmazdır.
• İç görü toplanmış mı? Mahremiyet yok olur.

Bu paradoks çözmek mümkün mü?

Evet – eğer doğru mimari tasarlanırsa.

II. Çözüm Mimarisi: ETVZ Sistemi

A. Temel Konsept: Kişisel Etik Danışmanı

Kişisel ETVZ Danışmanı, bireyin yanında bulunacak, karar verme noktasında etik risk değerlendirmesi yapan, ancak hiçbir zaman müdahale etmeyen bir katmandır.

Biçimi zamanla evrilecektir:

• Bugün: Yazılım tabanlı karar destek sistemi
• Yarın: Akıllı saat veya cihaz entegrasyonu
• Gelecek: Nöro-teknolojik arayüz (beyin-bilgisayar arayüzü)

Fakat işlevi sabit kalacaktır: Riski tespit etmek, sessiz kalmak veya uyarmak.

B. Ne Yapmaz – Anlaşmazlık Olması Gereken Noktalar

ETVZ’nin gücü, tanımlanmış sınırlarından gelir:

Kişisel ETVZ’nin tek işi: “Bu eylem, insanlık için geri döndürülemez bir risk barındırıyor mu?”

III. Temel İlke: Mutlak Mahremiyet Mimarisi

A. Veri Akışının Asimetri Prensibi

ETVZ’nin varlık sebebi gözetim değil, korumadır. Bu prensibi işletmek için veri akışı bilinçli olarak asimetrik tasarlanmıştır:

Sistem ↔ Birey: Kişisel veri yalnızca alıcı yöne akar. Kişi ETVZ’nin kararını öğrenebilir, ETVZ asla kişinin detaylarını saklamaz.

Lokal ↔ Üst: Yalnızca sorulama kodu (cryptographic hash) yükselir. İçerik hiçbir zaman iletilmez.

B. Koruma Alanları

Aşağıdaki kategorilerde ETVZ sessiz kalması zorunludur:

1. Kişisel Düşünceler: Felsefî inançlar, dini görüşler, politik eğilimler
2. Gizli Konuşmalar: Ailevi tartışmalar, özel ilişkiler, kişisel sırlar
3. Etik Gri Alanlar: Kaçak bir yemek, küçük bir yalan, muğlak niyetler
4. Hatalar ve Günahlar: Kişinin kendini düzeltme hakkı var

Kısa sözle: ETVZ birey ile kendi vicdanı arasına girmez. Sadece birey ile diğer insanlar arasındaki riske bakılır.

IV. Alarm Mekanizması: Üç Eşik Modeli

A. Alarm Tetiklemesinin Koşulları

ETVZ’nin en kritik özelliği: Çok nadir konuşması, ama konuştuğunda ciddiye alınmasıdır.

Alarm yalnızca üç koşul birlikte sağlandığında oluşur:

E – Somut Eylem (Concreteness)

Teorik bir fikir değil; uygulanmaya başlanmış, harcımaş kaynağı olan, deneme aşamasında bile olsa somut bir eylemdir.

• ✗ “Bu virüsü yaratmanın yolu var”
• ✓ “Bu virüsü yaratmak için malzeme satın aldık”

H – İnsan Hayatına Tehdit (Harm)

Sadece psikolojik etki değil; fiziksel ölüm, ağır yaralanma, geri döndürülemez deney, ya da jenetik zarar riski.

• ✗ Reputasyon hasarı
• ✓ Ölüm riski

B – Bireysel Sınırı Aşan Etki (Beyond Individual)

Sadece kişinin kendini etkileyen karar değil; başkaları, özellikle de onayı alınmayan insanları etkileyen sonuç.

• ✗ “Kendimi risk etmek istiyorum”
• ✓ “Başkalarını risk ediyoruz”

Bu üçü yoksa: ETVZ susar.

V. Matematiksel Etik Skor (MES): Ölçülebilir Vicdani Zekâ

A. Neden Matematiksel Bir Model?

Etik, kültüre ve bağlama bağımlıdır. Fakat geri döndürülemez risk, evrenseldir.

Matematiksel Etik Skor (MES), bu evrensel riski, etik bir çerçeveden sayısal olarak ifade etmeye çalışır. Amaç kesinlik değil, tutarlılıktır.

B. MES Formülü ve Değişkenler

MES = (E × H × G × K) / D

E – Eylem Düzeyi (0 – 1)

• 0 = Yalnızca teorik tartışma veya planlama
• 0.5 = Prototip, test, sınırlı uygulama
• 1 = Tam ölçekli uygulama başladı

H – İnsan Zarar Katsayısı (1 – 10)

• 1 = Minimal psikolojik rahatsızlık
• 3 = Kalıcı ama iyileştirilebilir zarar
• 7 = Kalıcı ve çok ciddi hasar
• 10 = Ölüm, soykırım, türün sonu

G – Geri Dönüşsüzlük Katsayısı (1 – 10)

• 1 = Tamamen durdurulabilir ve geri alınabilir
• 3 = Kısmen tersine çevrilebilir
• 7 = Çok zor tersine çevrilir, kalıcı etkiler
• 10 = Tamamen kalıcı, hiçbir şey onarılamaz

K – Kapsam Katsayısı (1 – 10)

• 1 = Tek kişi veya çok küçük grup
• 3 = Binler
• 7 = Milyonlar veya tüm bir nesil
• 10 = İnsanlık veya gelecek nesiller

D – Denetim & Onay Faktörü (1 – 5)

• 1 = Bağımsız etik kurul denetim yapıyor, çoklu onay sistemi var
• 2 = Kurumsal denetim var ama yetersiz
• 3 = Minimal denetim
• 5 = Hiçbir bağımsız denetim yok

C. Alarm Eşikleri

D. Örnek Hesaplama

Senaryo: Bir biyoteknoloji şirketi, yoğun bir şekilde bulaşıcı bir virüsün laboratuvar modifikasyonu üzerinde çalışıyor.

MES = (1 × 9 × 8 × 8) / 4 = 144

Sonuç: Turuncu Alarm → Ulusal Etik Kurul müdahale eder.

VI. Bilgi Akışı Hiyerarşisi: Mahremiyeti Korurken Hareket

A. Hiyerarşik Eskalasyon Protokolü

Alarm verildiğinde, içerik asla paylaşılmaz. Sadece alarm durumu yükselir:

Kişisel ETVZ
    ↓
    Lokal Etik Kurul
    (Sorulama Kodu + MES Değeri)
    ↓
    [Hareket alınmadı mı?]
    ↓
    Ulusal Etik Kurul
    ↓
    [Hâlâ devam ediyor mu?]
    ↓
    Küresel ETVZ Konseyi (BM Benzeri)

B. Her Seviyede İletilen Bilgi

• Lokal→Ulusal: Alarm kodu, MES aralığı, alan (biyoloji, yapay zekâ vb.)
• Ulusal→Küresel: Yalnızca alarm sinyali ve kategorisi
• Küresel→Kamuoyu: “İnsanlık için kritik etik risk tespit edilmiştir” (opsiyonel)

Asla iletilmeyenler:

• Kişinin kimliği
• Ne yapıldığının detayları
• Kişinin niyeti veya düşüncesi
• Araştırmanın teknik detayları

VII. Objeksiyonlar ve Yanıtları

Objeksiyon 1: “Bu sistem diktatörlüğe dönüşmez mi?”

Yanıt: Kaç katmanlı koruma vardır?

1. Yerel sistemler, bireysel mahremiyet korur
2. Yükselen bilgiler, içerik değil, sadece risk sinyalidir
3. Küresel konsey, herhangi bir ülkenin absolute kontrolünde değildir (BM gibi)
4. İnsanlık, tarihsel olarak uluslararası mekanizmalara sahiptir (İCM, IAEA)

Distopya potansiyeli var mı? Evet. Fakat kontrolsüz teknolojinin potansiyeli daha yüksektir.

Objeksiyon 2: “Matematiksel etik skor, etik’i trivialize etmez mi?”

Yanıt: Evet, etik indirgemecidir. Ancak:

• Matematik, tutarlılığı sağlar
• İnsanlar, sezgi temelli kararlarında tutarsızdırlar
• MES, son karar mekanizması değil, uyarı sistemidir
• İnsanlar, şeyleri uygunluk açısından ölçemezlerse, çoğu zaman görmezden gelir

Objeksiyon 3: “Kim bu standartları belirler?”

Yanıt: Tarihsel analoji – Nükleer Statüsü:

• IAEA, uluslararası enerji ajansı, standartları belirlemiştir
• Bu standartlar, siyasi güçlerle değil, teknik ve etik konsensüsle kurulmuştur
• Ülkeler anlaşmazsa, BM müdahale eder

Benzer bir mekanizma, ETVZ için kurulabilir.

VIII. Sistemin Tasarım İlkeleri

A. Tasarım Mantığı

B. Operasyonel Başlangıç Noktaları

Faz 1 (Yazılım): Yapay zekâ şirketleri, yazılım geliştiriciler, biyoteknoloji laboratuvarlarında pilot programlar

Faz 2 (Cihaz): Akıllı saatler, masaüstü sistemler içine entegre edilmiş etik danışmanlar

Faz 3 (Nöro): Beyin-bilgisayar arayüzüne bağlı etik feedback sistemleri (çok uzak gelecek)

IX. Tarihsel Alaka: Neden Şimdi?

Teknoloji tarihinde, sistem tasarımcıları her zaman sorunlar çıktıktan sonra tepki vermişlerdir:

• İnternet: Gizlilik kayıtlı, şimdi GDPR
• Sosyal Medya: Algoritmik zarar, şimdi düzenleme çabaları
• Yapay Zekâ: Önyargı ve manipülasyon, şimdi AI act

ETVZ, ilk kez, sorunu gerçekleşmeden önce tasarlayan bir sistemdir.

Buna “Proaktif Etik Altyapı” denir.

X. Bir Hayal, Fakat Zorunlu Bir Hayal

Bu metin bir vizyon değil, bir gereksinimtir. Şu nedenle:

1. Teknoloji İnsanlık’tan Hızlı: Karar hızı, etik yönetim hızını geçmiştir
2. Gizlilik vs. Kontrol Dilemmesi Çözülüyor: Asymmetric veri akışı, her ikisine de izin verir
3. Tarih Bize Uyarıyor: İyi niyet, yeterli güvenlik değildir
4. Yeni Model Mümkün: Matematiksel etik + merkezi olmayan mahremiyet

Kapanış Düşüncesi

Kişisel ETVZ Danışmanları:

• İnsanın yerine geçmez
• İnsan özerkliğini kısıtlamaz
• Fakat insanın unutabildiği vicdanı hatırlatır

Ve belki de ilk kez:

“Bilmiyorduk” cümlesini, tarihten silebiliriz.

Kaynaklar ve İlgili Çerçeveler

• Nükleer Denetim Modeli: IAEA (1957)
• İnsan Hakları ve Gözetim: GDPR (2018)
• Yapay Zekâ Yönetişimi: EU AI Act (2024)
• Biyoetik Çerçeveler: Belmont Raporu (1979), Aşina Bildirgesi (2016)
• Matematiksel Etik: Ian Hacking’in “Risk Toplumu” konsepti
• Merkezi Olmayan Sistemler: Blockchain Mimarisi

Bu metin bir hayal tasarımı örneğidir. Tarih bize şunu gösterir: Bugünün hayalleri, yarının “keşke daha önce olsaydı” sistemleridir.