Siri’nin sesli asistanla yaptığımız konuşmaların parçalarını kaydettiği haberi yeni değil, ancak bu kısa kayıtların insan aracıları tarafından dinlendiğini iddia ediyor – özellikle şirketin gizlilik konusundaki büyük baskısı ışığında.
Bunlar Apple için kötü optikler
Ben mahremiyetin önemine tutkuyla inanan biriyim.
Sadece zor kazanılmış özgürlüklerin korunması ve kamusal söylemin korunması açısından önemli değildir; aynı zamanda insan varlığının her alanında – her okul, tıbbi tesis veya işletme için – artan bir öneme sahiptir. Tarih, mahremiyetin yokluğunun toplum üzerinde aşındırıcı bir etkisi olduğunu, aile üyelerini birbirine düşman ettiğini ve yeniliği körelttiğini gösteriyor.
Apple’ın mahremiyetle ilgili uyarıları – Apple CEO’su Tim Cook’un her gün birlikte çalıştığımız birçok teknoloji firmasının bizi bir gözetim durumuna soktuğuna dair uyarısı da dahil – önemlidir (gizliliğin sadece bizim için feda etmemiz gereken bir şey olduğunu iddia edenler için her zaman uygun değilse). yaptığımız robotların iyiliği).
Ancak Apple’ın özel görüşmelerimizin kayıtlarının “kalite kontrol” ve “eğitim” amacıyla “yükleniciler” ile paylaşıldığını açıkça ortaya koymaması şirket için gerçekten kötü bir görüntü.
Apple ne diyor
Apple şunları belirtir:
“Siri isteklerinin küçük bir kısmı, Siri’yi ve dikteyi geliştirmek için analiz edilir.” Ayrıca, “Kullanıcı istekleri, kullanıcıların Apple Kimliği ile ilişkili değildir. Siri yanıtları güvenli tesislerde analiz edilir ve tüm gözden geçirenler Apple’ın katı gizlilik gereksinimlerine uymakla yükümlüdür.”
Bu bir dereceye kadar güven verici, ancak bazı durumlarda, Apple’ın incelemecilerinin, adresleri de dahil olmak üzere kişisel bilgileri paylaşan kişileri duydukları bildirildiğinden, ilgili Apple kimliğinden kaydedilmiş sesten boşanmaya geçiş yeterli olmayabilir.
Apple’ın biraz daha yapması gerekecek.
Apple durumu nasıl düzeltebilir?
Şeffaflıkla başlayın
Apple’ın hüküm ve koşullarında, Siri kullanılarak yapılan kayıtların bazen kalite kontrol amacıyla kullanıldığına dair uyarılar bulacaksınız.
Ayrıca, bu kayıtların (rakiplerin aksine) hiçbir şekilde Apple Kimliğiniz veya kişisel kimliğinizle bağlantılı olmadığına dair bir söz bulacaksınız.
Bu vaatler çok net değil.
Bu yüzden Apple’ın cihazlarında Siri kullanımı konusunda çok daha net ve anlaşılması kolay gizlilik uyarıları getirmesi gerektiğini söylüyorum. Bu uyarıları öne ve ortaya taşımalı ve yalnızca bazen bu kayıtları kullanmakla kalmayıp, aynı zamanda bunları nasıl kullandığını, bunları kullanırken kimliği nasıl koruduğunu ve bu kayıtların tam olarak ne kadar süreyle saklandığını net bir şekilde ortaya koymalıdır.
Ama insanlara kontrol ver
Apple (bence) Siri kaydını devre dışı bırakmalı.
Başka bir deyişle, Siri’yi yeni bir cihaza kurarken, kullanıcıya sesinin orijinal istek dışında herhangi bir amaçla kullanılmasını açıkça reddetme şansı verilmelidir.
Verilerinizin eğitimde veya kalite kontrolünde kullanılmasını istemediğinizi söyleyebilmelisiniz.
“Ama o zaman Apple, asistanı bu kadar hızlı eğitemez” diye şikayet edebilir. Belki değil, ancak mahremiyetin korunmasında liderliğini sürdürecek.
Sadece bu da değil, bu kayıtların aslında ne kadar faydalı olduğu tartışılabilir.
Daha sorumlu ol
Apple, Google, Amazon ve diğerlerinin kullandığı “yükleniciler” kimlerdir, söylediklerimizin bu kısa kayıtlarını doğrulayan ve dinleyen kimlerdir?
Nasıl işe alınırlar?
Görev tanımları nelerdir? Başka kimin için çalışıyorlar?
Hangi temelde onlara güvenilebilir ve bireyler bu güveni kötüye kullanmaları durumunda nasıl tazminat alabilirler?
Ve neden Siri kullanıcıları tüm bu soruların cevaplarını zaten bilmiyorlar?
Bu müteahhitlerin dış kaynaklı olması hiçbir anlam ifade etmiyor.
Apple bu işi kurum içinde yapmalı, ses çalışanlarının ve yönetiminin bu kayıtlarla yaptıklarından tamamen sorumlu olmalı ve müşterilerin veri gizliliğine yönelik herhangi bir ihlali cezalandırmanın bir yolunu bulmasını sağlamalıdır.
Bilgiye ihtiyacınız olduğundan gerçekten emin olun
Apple duyduğu kelimelerin yalnızca küçük bölümlerini kaydettiğini ve kullandığını söylüyor, ancak almayı seçtiği kadar çok örnek tutması veya doğrulaması gerekiyor mu?
Bunun hakkında böyle düşün:
Saatinizdeki veya HomePod’unuzdaki Siri, “Hey, Siri” komutu olduğunu düşündüğü şeyi duyar, ancak daha sonra herhangi bir istekte bulunulmazsa, kesinlikle yanlış bir alarmın gerçekleştiğini tanıyacak kadar akıllı olmalıdır.
Böyle bir yanlış alarm durumunda, cihazdaki Siri, yanlışlıkla çağrıya neyin neden olduğunu öğrenecek kadar akıllı olmalı ve gelecekte bu sese daha az duyarlı olmalıdır.
(A Muhafız Rapor, örneğin, fermuarların sesinin bazen Siri’yi uyandırdığını iddia etti – kesinlikle Siri, yanıt olarak fermuarların sesini görmezden gelmeyi öğrenebilir.)
Sonuç olarak, Siri’nin çağrılması ancak belirli bir istekte bulunulmaması durumunda, sistem etkileşimi görmezden gelecek ve bu etkileşimin sonucu olarak yapılan tüm kayıtları (muhtemelen) ilk üç saniyenin ötesinde silecek kadar akıllı olmalıdır. tetik komutunu duyduğunu sandı.
Sadece bu adımı atmak, Siri’nin işittiği ve yüklenicilerle paylaştığı söylenen daha korkunç kayıtlardan bazılarını hemen hemen önleyecektir.
Siri’nin, dinlemesini istemediğim halde söylediklerimi dinlemede daha iyi olmasını istemiyorum. Sadece bir istekte bulunduğumda dinlemenin daha iyi olmasını istiyorum.
İnsan gerekli mi?
Ses teknolojisi hızla ilerliyor. Bu şu soruyu akla getiriyor: “İnsan müteahhitlerin Siri ile ilgili konuşma parçalarını dinlemesi bile gerekli mi?”
Bence çoğu durumda, öyle değil.
Doğruluk kontrolünü otomatikleştirmek için kayıtlar ilk olarak Siri ve diğer ses tanıma teknolojilerinden geçirilmelidir.
Yalnızca, farklı ses tanıma sistemlerinin, insan kulağının gerekli olması durumunda söylenenler üzerinde anlaşmanın bir yolunu bulamadığı durumlarda.
Ben bir AI uzmanı değilim, ancak bu tür bir analiz, Random Forest modelleri/algoritmalarının inşa edildiği türden bir şeydir – yalnızca teknoloji, bir insanın gerekli olması durumunda neden bir talebi yanlış aldığı konusunda hemfikir olmadığında.
neden önemli
Bunlar, Apple’ın Siri’yi sektördeki en özel sesli asistan yapmak için alacağını umduğum küçük bir öneri koleksiyonu.
Bu şey önemli.
Bunu düşün:
Sadece kendi mülkiyetimizi kullandığımız kelimeler değil, aynı zamanda sensör tabanlı teknolojiler ve yapay zeka, haritalamadan her yerde bulunan VR’ye kadar günlük yaşamın farklı alanlarına girdikçe, hayatımızın çok daha fazlası olacağından, mahremiyet ihtiyacı daha da önemli hale geliyor. açık bir kitap.
Bugün ses konusunda verdiğimiz kararlar, diğer tüm gizlilik alanlarını tanımlayacak.
Gizliliğin bilgisayarlı rahatlık için ödememiz gereken bir bedel olduğunu düşünenler var ama ben onlarla asla aynı fikirde olmadım.
İnsanlık tarihinde, sesli asistan mahremiyeti konusunda verdiğimiz kararların geleceğimizde yankı uyandıracağı bir noktadayız.
Bunu etkili bir şekilde çözmemiz gerekiyor çünkü bunu yapmazsak, uygulamalar güvensiz olacak ve potansiyel olarak etik açıdan sağlıksız olacaktır.
Ve Apple, kullanıcıları gizlilik kontrolünün merkezine koyan bir yasa tasarısı olan bu alanda dijital haklar bildirgesi talebini ilerletmelidir.
