Yapay zekâ doktorunuz değil! Danışırken dikkat edin
Sağlıkla ilgili sorularına yanıt ararken yapay zekâ uygulamalarına yönelen kullanıcılar, yanlış yönlendirme ve kişisel verilerin kötüye kullanılması riskiyle karşı karşıya kalabiliyor.
Haberin Özeti
- • Uzmanlar, yapay zekâ sistemlerinin sağlık sorularına hatalı yanıtlar verebildiğini ve doktorların yerini tutmadığını vurgulayarak uyarıyor.
- • Yapay zekâ uygulamalarına paylaşılan hassas sağlık verileri üçüncü tarafların erişimine açılabilir ve kalıcı bir dijital iz bırakabilir.
- • Siber suçlular, ekonomik değeri yüksek sağlık verilerini kimlik sahteciliği ve sigorta dolandırıcılığı gibi suçlarda kullanmak için hedef alıyor.
Yapay zekâ tabanlı sohbet robotlarının günlük yaşamda daha fazla kullanılmaya başlamasıyla birlikte, sağlık alanındaki kullanımları da hızla yaygınlaşıyor. Ancak uzmanlar, özellikle sağlıkla ilgili konularda yapay zekâya danışan kişilerin hem yanlış yönlendirilme hem de kişisel verilerinin ifşa olması riskiyle karşı karşıya kalabileceği konusunda uyarıyor.
Son dönemde birçok teknoloji şirketi, kullanıcıların sağlık verilerini yorumlayabilen ve tıbbi sorulara yanıt verebilen yapay zekâ destekli platformları hizmete sundu. Bu sistemler semptomlar, laboratuvar sonuçları ve tedavi seçenekleri hakkında bilgi verebilse de uzmanlar, bu araçların doktorların yerini almasının mümkün olmadığını vurguluyor.
Araştırmalar, yapay zekâ sistemlerinin sağlıkla ilgili sorulara zaman zaman hatalı veya çelişkili yanıtlar verebildiğini ortaya koyuyor. Konuyla ilgili yapılan değerlendirmelerde, "LLM'ler, kendilerine yöneltilen sorular çok az farklılık gösterse bile çok farklı cevaplar veriyor" ve "modeller genellikle hem iyi hem de kötü tavsiyelerde bulunuyor ancak kullanıcılar ikisini birbirinden ayırt etmekte zorlanıyor" ifadelerine yer verildi.
ESET, "Hastalar, semptomları hakkında büyük bir dil modeline danışmanın tehlikeli olabileceğini, yanlış teşhisler ortaya çıkabileceğini ve acil yardım gerektiğinde bunun farkına varılamayabileceğini bilmeli" uyarısında bulundu.
Sağlık verileri kalıcı dijital iz bırakabiliyor
Yanlış yönlendirme riskinin yanı sıra yapay zekâ uygulamalarının kullanıcı gizliliği açısından da bazı tehlikeler barındırdığı belirtiliyor. Yapay zekâ sistemleriyle paylaşılan sağlık bilgilerinin, çeşitli veri işleme süreçlerinden geçerek üçüncü taraf kuruluşların erişimine açık hale gelebileceğine dikkat çekiliyor.
Eset, sağlık bilgilerinin diğer kişisel verilere göre çok daha hassas olduğuna işaret ederek, "Sağlık verileriniz, bilgileri değiştirilip yeniden düzenlenirken dondurulabilen çalıntı bir kredi kartı gibi değildir. Ömür boyu size aittir ve bir yapay zekâ aracıyla paylaşıldığında kalıcı bir dijital kayıt hâline gelebilir" değerlendirmesinde bulundu.
Siber suçluların hedefinde sağlık verileri var
Sağlık kayıtlarının siber suçlular açısından büyük ekonomik değere sahip olduğu belirtilirken, bu verilerin kimlik sahteciliğinden sigorta dolandırıcılığına kadar birçok suçta kullanılabileceği ifade edildi.
ESET, sağlık verilerinin çok sayıda kurum ve platform tarafından işlenmesinin veri ihlali riskini artırdığına dikkat çekerek, kullanıcıların paylaştıkları bilgilerin kimlerin erişimine açık olduğunu mutlaka araştırmaları gerektiğini belirtti.
Yapay zekâ kullanırken bu kurallara dikkat edin
ESET, sağlık konusunda yapay zekâdan yararlanacak kişilere şu tavsiyelerde bulundu:
- Tıbbi belgeleri ve laboratuvar sonuçlarını paylaşmadan önce verilerin nasıl işlendiğini araştırın.
- Kimlik bilgileri, adres, sigorta numarası ve hasta kayıt numarası gibi kişisel bilgileri paylaşmayın.
- Sohbet geçmişi ve eğitim amaçlı veri kullanım seçeneklerini kontrol edin.
- Yalnızca gerekli olan minimum bilgiyi paylaşın.
- Yazdığınız her bilginin kayıt altına alınabileceğini göz önünde bulundurun.
- Yapay zekâdan alınan bilgileri mutlaka sağlık profesyonelleriyle doğrulayın.
Bakmadan Geçme
