Yapay zekâ ve sağlık verisi yetenek yönetimi için kritik dersler

Yapay zekâ ve sağlık verisi: Neden OpenAI’nin ChatGPT kararı önemli?

• OpenAI’nin yeni politikası ile sağlık verileri model eğitimi için kesinlikle kullanılmayacak.
• Sağlık verisi, kişisel verinin en hassas kategorilerinden biridir ve yüksek koruma gerektirir.
• Kurumsal kullanıcılar, veri gizliliği endişeleri nedeniyle ChatGPT benzeri sistemleri daha rahat kullanabilecek.
• Yapay zekâ, sağlık sektöründe büyük fırsatlar sunarken ciddi riskler de taşımaktadır.
• OpenAI’nin bu kararı, iş dünyasında güven ve gizlilik stratejisi açısından önemli bir değişimdir.

1. OpenAI’nin ChatGPT sağlık verisi kararı: Temelde ne söylüyor?

BleepingComputer’da yer alan habere göre OpenAI, ChatGPT üzerinden paylaşılan sağlık bilgilerinin, genel amaçlı yapay zekâ modellerini eğitmek için kullanılmayacağını duyurdu. Bu, özellikle:

• Belirli bir kişinin sağlık durumu
• Tanı, tedavi geçmişi, ilaç bilgileri
• Laboratuvar sonuçları, raporlar
• Sigorta, ödeme ve hasta dosyası bilgileri

gibi kişisel sağlık verilerinin, model eğitimi ya da yeniden eğitimi için otomatik olarak “ham madde” haline getirilmeyeceği anlamına geliyor.

Bu karar üç düzeyde önemli:

1. Gizlilik ve güven: Kullanıcıların “sağlıkla ilgili soru sorduğumda bu bilgi modele karışır mı?” endişesine doğrudan yanıt veriyor.
2. Regülasyon uyumu: GDPR, HIPAA gibi veri koruma ve sağlık verisi mevzuatlarıyla daha sıkı uyum sağlamayı amaçlıyor.
3. Kurumsal benimseme: Hastaneler, sigorta şirketleri, sağlık girişimleri ve ilaç firmaları gibi kurumların ChatGPT benzeri sistemleri kullanma isteğini artırmayı hedefliyor.

2. Sağlık verisi neden bu kadar hassas?

Yapay zekâ ve sağlık verisi dendiğinde, yalnızca “kişisel veri”den değil, en hassas kişisel veri kategorisinden bahsediyoruz. Bunun birkaç temel sebebi var:

2.1. Geri dönüşü olmayan mahremiyet riski

Bir kişinin:

• Genetik eğilimleri
• Kronik hastalıkları
• Psikiyatrik geçmişi
• Bulaşıcı hastalık durumu

gibi bilgiler sızdığında, bu veriyi “geri almak” pratikte imkânsız. Bu, iş, sosyal yaşam, sigorta ve hatta kredi imkanları üzerinde hayat boyu sürebilecek sonuçlar doğurabilir.

2.2. Ayrımcılık ve stigmatizasyon riski

Sağlık verisi kötüye kullanıldığında:

• İşe alım süreçlerinde ayrımcılık
• Sağlık ve hayat sigortalarında dışlayıcı fiyatlama
• Toplumsal damgalama (özellikle ruh sağlığı, HIV, genetik hastalıklar vb.)

gibi sonuçlar ortaya çıkabiliyor. Bu yüzden birçok ülkede sağlık verisi, diğer kişisel verilerden ayrı ve daha yüksek koruma düzeyinde ele alınıyor.

2.3. Hukuki ve regülatif yükümlülükler

• Avrupa’da GDPR sağlık verisini “özel nitelikli kişisel veri” olarak tanımlar. Ek şartlar ve sınırlamalar getirir.
• ABD’de HIPAA, sağlık hizmeti sağlayıcıları ve sigorta kuruluşları için çok katı gizlilik standartları getirir.
• Türkiye’de KVKK, sağlık verisini “özel nitelikli kişisel veri” sayar ve açık rıza, veri minimizasyonu, güvenlik gibi alanlarda ek yükümlülükler getirir.

Dolayısıyla yapay zekâ şirketlerinin sağlık verisiyle çalışması, hem teknik hem hukuki hem de etik açıdan yüksek riskli bir alan. OpenAI’nin ChatGPT eğitim veri setinden sağlık bilgisini dışarlama kararı bu bağlamda okunmalı.

3. Büyük dil modelleri, veriyi nasıl kullanıyor?

OpenAI’nin açıklamasını anlamak için, büyük dil modellerinin (LLM – Large Language Model) veriyi nasıl kullandığını sade bir dille özetleyelim.

3.1. Eğitim (training) vs. kullanım (inference)

• Eğitim (training): Model, büyük miktarda metin verisinden dil kalıplarını öğrenir. Bu aşamada veri, modelin “ağırlıklarına” istatistiksel bilgi olarak kodlanır.
• Kullanım (inference): Eğitim tamamlandıktan sonra model, gelen sorulara yanıt üretir. Bu sırada kullanıcı girdileri, normalde yeni bir model eğitimine doğrudan dahil edilmez; ancak loglama, iyileştirme ve geribildirim döngüleri için saklanabilir.

Politika değişiklikleri çoğunlukla şunu hedefler:

• Hangi veriler hiç kaydedilmeyecek
• Hangileri anonimleştirilerek, istatistiksel analiz için tutulabilecek
• Hangileri kesinlikle model eğitimi için kullanılmayacak

OpenAI’nin duyurusu, özellikle sağlık bilgisinin model eğitimi katmanından uzak tutulmasına odaklanıyor.

3.2. Kişisel verinin “görünmez” geri dönüşü

Eğitim sırasında modele karışan hassas bir bilgi:

• Yazılı olarak tek tek geri çağrılmasa bile
• İstatistiksel kalıplar yoluyla, benzer bağlamlarda ortaya çıkabilir.

Bu risk yüzünden, hassas verilerin baştan eğitim veri setine hiç girmemesi, en güvenli seçenek kabul ediliyor. OpenAI’nin adımı bu yaklaşım ile tutarlı.

4. Yapay zekâ ve sağlık: Büyük fırsat, büyük risk

Sağlık sektörü, yapay zekânın en büyük katma değer potansiyeline sahip olduğu alanlardan biri. Ancak yapay zekâ ve sağlık verisi birlikteliği iki ucu keskin bir bıçak.

4.1. Kullanım alanları: İş dünyası için fırsatlar

1. Hasta destek asistanları
   Randevu yönetimi, sık sorulan sorular, ilaç hatırlatıcıları. Türkçe doğal dilde, 7/24 hizmet sunabilen chatbot’lar.
2. Hekime destek karar sistemleri
   Büyük dil modelleri, literatür tarama, kılavuz öneri, olgu benzerliği analizi için “ikinci beyin” görevi görebilir. Örneğin: Nadir hastalıklar için dünya literatürünü saniyeler içinde tarama.
3. Sigorta ve tazminat süreçleri
   Talep formlarının ön değerlendirilmesi, risk skorlaması, anomali tespiti. Metinler, raporlar, poliçeler üzerinde otomatik analiz.
4. İlaç ve biyoteknoloji Ar-Ge
   Klinik çalışma verilerinin analizinde, yayın taramasında, hipotez üretiminde LLM’ler büyük hız kazandırabilir.
5. Kurumsal eğitim ve iç iletişim
   Kılavuzların, prosedürlerin, medikal cihaz kullanım talimatlarının daha anlaşılır hale getirilmesi. Kurum içi bilgi tabanına bağlı, sadece kurumsal verilerle beslenen güvenli asistanlar.

4.2. Riskler: Güven, etik ve sorumluluk

• Hatalı tıbbi öneriler: LLM’ler “eminmiş gibi” hatalı ya da eksik bilgi üretebilir (hallucination).
• Yetki ve sorumluluk karışması: “Kararı model verdi” gerekçesi, hukuken geçersiz; sorumluluk insan uzmanda kalır.
• Veri sızıntısı ve ihlali: Bulut tabanlı hizmetlerde, yanlış yapılandırma ya da insan hatası sonucu veri ihlali riski.
• Güven erozyonu: Hastalar, verilerinin yapay zekâ şirketlerine aktarıldığı algısına sahip olursa, tüm ekosisteme güven azalabilir.

OpenAI’nin, sağlık verisini eğitimden dışlama kararı bu risklerden özellikle güven ve gizlilik boyutunu hedefliyor.

5. OpenAI’nin kararı iş dünyası için ne anlama geliyor?

Bu noktayı, kurumsal perspektiften ele almak önemli. Çünkü hedef kitleniz yalnızca son kullanıcılar değil; bu teknolojileri ürünlerine, hizmetlerine ve iş süreçlerine entegre etmek isteyen şirketler.

5.1. Sağlık kurumları ve sigorta şirketleri için

• Dijital dönüşüm projeleri hızlanabilir: Hastane grupları, özel klinikler, tıp merkezi zincirleri, tele-sağlık platformları, artık “ChatGPT ile entegre olursak verilerimiz modele karışır mı?” endişesini daha net sorgulayabilir; sözleşme bazlı güvencelerle entegrasyona daha rahat yaklaşabilir.
• Bulut vs. on-premise stratejisi: Hassas verisi yüksek kurumlar, yine de özel, kapalı, kuruma özel modeller (ör. on-prem ya da VPC içinde çalışan LLM) kullanmayı tercih edebilir. Ancak OpenAI’nin bu adımı, hibrit modeller (hem genel ChatGPT hem kurumsal kapalı alan) için psikolojik bariyeri azaltır.
• Regülatörlerle diyalog kolaylaşabilir: Sağlık Bakanlıkları, SGK türü kamu otoriteleri, veri koruma kurumlarıyla yürütülen uyum süreçlerinde, “sağlık verisi eğitim verisi olarak kullanılmıyor” cümlesi, risk analizini önemli ölçüde sadeleştirir.

5.2. Girişimler ve sağlık teknolojisi startup’ları için

• Yatırımcı güveni artabilir: Sağlık odaklı AI girişimleri, uyum riskini azaltan bu tür açıklamalar sayesinde hem müşterilerine hem yatırımcılarına daha güvenli bir hikâye sunabilir.
• Farklılaşma alanı oluşuyor: OpenAI’nin genel politikası, startup’lar için iki strateji alanı yaratıyor:
  • “Biz de asla sağlık verisini model eğitimi için kullanmıyoruz” diyerek güven üzerinden konumlanmak.
  • Ya da, regüle, gözetimli, etik çerçevesi belirlenmiş özel modeller geliştirerek, izinli sağlık verisi kullanımını katma değer unsuru haline getirmek.

5.3. Diğer sektörler için dolaylı etkiler

Sağlık verisi, hassasiyet anlamında bir tür “üst seviye örnek” işlevi görüyor. Buradan çıkan dersler, şu alanlara da hızla yayılıyor:

• Finansal veriler (gelir, borç, harcama, yatırım geçmişi)
• İnsan kaynakları verileri (performans kayıtları, disiplin süreçleri)
• Çocuklara ait veriler (eğitim, davranış, sağlık birleşimi)

OpenAI gibi önde gelen oyuncuların sağlık verisinde aldığı tutum, bu sektörlerde de “model eğitimi için kullanılmayan veri tipleri” konseptinin yayılmasını tetikleyebilir.

6. Bu politika teknik ve hukuki açıdan yeterli mi?

Önemli soru:
“OpenAI ‘sağlık verisini model eğitimi için kullanmıyoruz’ dedi diye, artık her şey yolunda mı?”

Yanıt: Hayır, ama büyük ve doğru yönde bir adım.

6.1. Teknik boyut: Ayrıştırma nasıl yapılacak?

Gerçek dünyada, kullanıcılar:

• Sağlıkla ilgili sorularını çok farklı biçimlerde,
• Çoğu zaman bağlamı karıştırarak (iş, aile, duygu, finans birlikte)
• Açıkça “sağlık verisi” olduğunu belirtmeden

sorabiliyorlar. Örneğin:

“Geçen hafta kalp krizi geçirdim, şimdi işe dönmem gerekir mi?”

Bu cümleyi otomatik sistemlerin “sağlık verisi içeriyor” diye doğru sınıflandırması için:

• Hassas veri tespiti (sensitive data detection)
• Doğal dilde sağlık terimi tanımlama
• Varlık tanıma (ENTITY RECOGNITION: hastalık, ilaç, tarih vb.)

gibi NLP katmanları kullanılması gerekiyor. Bu tür filtreler, mükemmel değildir; yanlış negatif (kaçırılan sağlık verisi) ve yanlış pozitif (aslında sağlıkla ilgisi olmayan ama öyle algılanan) riskleri içerir.

Dolayısıyla politika beyanı önemli, ama yanında teknik şeffaflık ve denetim mekanizmaları da gereklidir.

6.2. Hukuki boyut: Sözleşmeler ve uyum

Kurumsal müşteriler için asıl belirleyici olan:

• Hizmet sözleşmeleri (MSA, DPA, SLA vb.)
• Veri işleme anlaşmaları (Data Processing Agreement)
• Denetim ve raporlama hakları
• Veri saklama, silme, anonimleştirme prosedürleri

olacaktır. İş dünyası için anlamlı güvence, genelde “blog yazısı” değil, sözleşme maddeleri üzerinden gelir.

Bu nedenle, OpenAI’nin politikası, ancak:

• Kurumsal planlarda detaylı veri işleme politikaları,
• Denetim raporları (ör. SOC 2, ISO 27001) ve
• Regülatörlerle uyum belgeleri

ile desteklendiğinde tam iş değeri üretir.

7. Şirketler için pratik öneriler: Yapay zekâ ve sağlık verisi ile nasıl ilerlemeli?

Bu noktaya kadar çerçeveyi çizdik. Şimdi, özellikle Türkiye’de faaliyet gösteren ve/veya küresel pazarlara açılmak isteyen kurumlar için uygulanabilir adımları özetleyelim.

7.1. Veri sınıflandırma yapın

Şirket içinde:

• Kişisel veriler
• Özel nitelikli kişisel veriler (sağlık, biyometrik, din, sendika vb.)
• Ticari sırlar
• Genel kurumsal veriler (iç politika, prosedür vb.)

gibi kategoriler oluşturun ve her biri için ayrı AI kullanım politikası tanımlayın.

Örneğin:

• Özel nitelikli veriler hiçbir zaman genel bulut tabanlı LLM’lere gönderilmez.
• Sadece anonimleştirilmiş, kimlikten arındırılmış veriler eğitim veya test ortamlarında kullanılır.
• Çalışanlar, hassas veriyi ChatGPT benzeri araçlara yazmama konusunda eğitilir.

7.2. İç yapay zekâ politikası hazırlayın

• Hangi departmanlar, hangi amaçlarla LLM kullanabilir?
• Hangi veri tipleri kesinlikle LLM’e gönderilemez?
• Kullanılan araçların listesi nasıl onaylanır ve denetlenir?

Gibi sorulara net cevap veren, kısa ama bağlayıcı bir iç politika hazırlayın.

7.3. Kurumsal AI platformları tercih edin

• OpenAI’nin kurumsal ürünleri (ör. ChatGPT Enterprise),
• Azure OpenAI Service,
• Diğer büyük sağlayıcıların “kurumsal, verisi ayrıştırılmış” LLM hizmetleri

tercih edildiğinde, genellikle:

• Otomatik loglama ve silme seçenekleri,
• Müşteri verisinin model eğitiminde kullanılmaması garantisi,
• Şifreleme, erişim kontrolü, denetim kayıtları

gibi ek güvenlik katmanlarına sahip olursunuz.

7.4. Hukuk, BT, veri koruma ve iş birimlerini birlikte masaya oturtun

Yapay zekâ ve sağlık verisi konusu yalnızca IT’nin, yalnızca hukuk departmanının veya yalnızca pazarlamanın meselesi değildir. Özellikle:

• Başhekimlik / Medikal Direktörlük
• Veri Koruma / KVKK Sorumlusu
• Bilgi Güvenliği Ekibi
• Ürün / İş Geliştirme

aynı masada oturup ortak bir risk değerlendirmesi ve yol haritası oluşturmalıdır.

8. Geleceğe bakış: Yapay zekâ, sağlık ve güven dengesini nasıl kuracağız?

OpenAI’nin ChatGPT için aldığı, sağlık verisini model eğitiminden dışlama kararı, daha büyük bir dönüşümün parçası:

• “Her şeyi toplayıp eğitelim” döneminden,
• “Hangi veriyi, hangi amaçla, hangi sınırlar içinde kullanmalıyız?” dönemine

geçiyoruz.

Önümüzdeki yıllarda şunları görmemiz muhtemel:

1. Alan odaklı, regüle LLM’ler
   Sadece sağlık sektörü için, sıkı denetimli ve belki de kamu/özel iş birliğiyle geliştirilen modeller. Bu modeller, yalnızca açık rıza ile ve hukuki çerçevede toplanmış sağlık verilerini kullanacaktır.
2. Unlearning (unutma) teknolojilerinin gelişmesi
   Modellerin belirli veri gruplarını sonradan “unutabilmesi” üzerine yoğun AR-GE. Sağlık verisi içeren kayıtların sonradan modelden çıkarılması gibi senaryolar.
3. Kişisel veri kontrolünün kullanıcıya kayması
   “Verimi model eğitiminde kullanmak istersem, bana ek fayda sağlar mısın?” türü, kullanıcıyı merkeze alan veri ekonomisi modelleri.
4. Daha güçlü denetim ve sertifikasyon mekanizmaları
   Sağlık verisi işleyen AI sistemleri için özel sertifikalar, etiketler, bağımsız inceleme kurumları.

Bu süreçte öne çıkacak kurumlar, yalnızca teknolojik olarak iyi olanlar değil; güveni stratejik bir varlık gibi yönetenler olacak.

Sonuç: Stratejik dersler ve aksiyon noktaları

Yapay zekâ ve sağlık verisi başlığında OpenAI’nin ChatGPT politikası, iş dünyası için birkaç net mesaj veriyor:

1. Güven, rekabet avantajıdır.
   Sağlık veri gizliliğini ciddiye alan oyuncular, sadece etik olarak doğru değil, aynı zamanda ticari olarak da avantajlı konuma geçiyor.
2. Genel amaçlı modellerle hassas veriler arasında net sınırlar çizin.
   Sağlık gibi özel kategorilerde, “varsayılan” yaklaşım daima en korumacı olanı olmalı.
3. Politika beyanlarını, teknik ve hukuki mekanizmalarla destekleyin.
   “Kullanmıyoruz” demek yetmez; nasıl kullanmadığınızı, nasıl denetlendiğinizi ve nasıl raporladığınızı gösterebilmelisiniz.
4. Erken hareket eden kurumlar, regülasyon netleştiğinde avantajlı olur.
   KVKK, GDPR ve gelecekteki olası “AI yasaları” netleşmeden önce hazırlık yapanlar, adaptasyon sürecini çok daha rahat yönetir.
5. İş liderleri, veri ve yapay zekâ stratejisini yeniden düşünmeli.
   Hangi veriler gerçekten gerekli? Hangilerini asla işlememeliyiz? Hangi alanlarda özel, kapalı modeller kurmalıyız? Bu soruların yanıtı, önümüzdeki 3–5 yılın rekabet haritasını belirleyecektir.

Yapay zekâ ve sağlık verisi alanında atılan her adım, yalnızca teknoloji gündemini değil;insanların yaşamını, haklarını ve güven duygusunu doğrudan etkiliyor. OpenAI’nin ChatGPT ile başlattığı bu daha korumacı yaklaşım, iş dünyasına önemli bir sinyal veriyor:

Geleceğin kazananları, en çok veriyi toplayanlar değil; en sorumlu şekilde kullananlar olacaktır.

Sıkça Sorulan Sorular

1. OpenAI’nin yeni politikası sağlık verilerini kapsıyor mu?

Evet, OpenAI’nin yeni politikası sağlık verilerini de kapsamaktadır ve bu verilerin model eğitimi için kullanılmayacağını belirtmektedir.

2. Bu karar kullanıcı güvenini artıracak mı?

Evet, sağlık verilerinin gizliliğini sağlamaya yönelik bu tür adımlar, kullanıcıların güvenini artıracaktır.

3. Yapay zekânın sağlık sektöründeki fırsatları nelerdir?

Hasta destek asistanları, hekim destek sistemleri, sigorta süreçleri gibi çeşitli kullanım alanları bulunmaktadır.

4. Bu politika’nın takibi nasıl yapılacak?

Organizasyonlar, kendi iç politikaları ve denetim mekanizmaları aracılığıyla bu politikayı takip edebilirler.

5. Veri gizliliği süreci nasıl yönetilmelidir?

Veri gizliliği süreçleri, kaliteli veri yönetimi, çalışan eğitimleri ve uygun teknolojikir destek ile yönetilmelidir.