ماذا حصل؟

لم تعد متاجر Sears كما كانت من قبل، لكن خدمة صيانة الأجهزة المنزلية التابعة لها لا تزال تعمل، ومعها مساعد صوتي شبيه بشات بوت اسمه Samantha. في بداية فبراير، اكتشف الباحث الأمني جيرمياه فوولر قواعد بيانات عامة تحتوي على مجموعات ضخمة من سجلات المحادثات، ملفات صوتية، ونصوص تفريغ صوتي تخص عملاء Sears Home Services.

حجم التسريب وما احتواه

  • 3.7 مليون سجل محادثة كشف عنها الباحث.
  • 1.4 مليون ملف صوتي ونصوص مفروغَة من محادثات تعود للفترة من عام 2024 حتى هذا العام.
  • المحادثات كانت باللغتين الإنجليزية والإسبانية، وتضمنت معلومات شخصية مثل الأسماء، أرقام الهواتف، عناوين المنازل، تفاصيل الأجهزة المنزلية، ومواعيد التسليم أو الإصلاح.
  • الشات بوت قدم نفسه باسم Samantha، ونُسبت له تقنية تسمى kAIros ضمن السجلات.

فوولر يعمل مع فريق أمني معروف، وأكد أن الملفات التي شاهدها تضمنت ملفات CSV تحوي عشرات آلاف السجلات الكاملة. بعد إبلاغه للشركة المالكة Transformco، تم تأمين قواعد البيانات، لكن لا يوجد وضوح كامل حول كم كانت متاحة للعامة أو إن كان هناك من اطلع عليها قبل تأمينها.

مشكلة أكبر من خطأ تقني

ما يقلق هنا ليس وجود بيانات شخصية فقط، بل طريقة استغلال تلك المعلومات. يقول فوولر إن هذه البيانات "حقيقية ومخصصة لأشخاص حقيقيين"، ويشدّد على أن أي شركة تستخدم حلول ذكاء اصطناعي لا يجب أن تختصر في حماية البيانات. على الأقل، بحسبه، كان يجب أن تكون الملفات محمية بكلمة مرور ومشفرة.

الجانب الأكثر إثارة للقلق في الاكتشاف هو أن بعض التسجيلات الصوتية استمرت لساعات بعد انتهاء المحادثة المتوقعة. بعض الملفات سجلت حتى أربع ساعات من الصوت المحيط بما في ذلك التلفاز ومحادثات أفراد البيت. هذا يعني احتمال تسجيل معلومات ومحادثات خاصة لم يكن العميل يتوقع أن تُسجل.

مواقف بشرية على الطرف الآخر

السجلات تظهر أيضا الإحباط البشري من تخلّف الشات بوت. في إحدى المحادثات الصوتية الطويلة، طلب الشخص التحدث إلى موظف بشري بعد دقيقتين فقط، فرد الشات بوت بأنه قادر على حل المشكلة فوراً وأن التحدث مع إنسان قد يستغرق وقت انتظار، ثم بعد دقائق اعترف الشات بوت بأنه يواجه أخطاء وقد يحول المكالمة إلى وكيل بشري.

في نصّ محادثة آخر امتد من حوالي الحادية عشرة صباحاً إلى الواحدة والنصف بعد الظهر، تكررت عبارة "أين فنيي؟" 28 مرة، وفي لحظة من الإحباط كرر المتحدث "أنت جهاز كمبيوتر" عدة مرات.

مخاطر الاستخدام وسلوك الشركات

الملفات المكشوفة تفتح الباب أمام هجمات تصيّد متقنة، احتيالات على الضمان، واستهدافات تعتمد على معلومات عن الأجهزة والمنازل. الباحثون والأكاديميون يدعون إلى منح العملاء خيارات أوضح، مثل حق عدم تسجيل المحادثة وخيار التحدث مع موظف بشري إذا رغبوا.

كاريسّا فيليز، باحثة وأكاديمية في أكسفورد، تشير إلى أن الناس أحياناً يشعرون براحة أكثر عند التحدث إلى آلة، لكنهم كثيراً لا يملكون خيار التحكم بكيفية معالجة بياناتهم. تقول إن الشركات يجب أن تمنح عملاءها خيارات واضحة: التحدث إلى إنسان أو رفض التسجيل.

ما الذي يجب تغييره عملياً؟

  • حماية التخزين: تشفير البيانات وحمايتها بكلمات مرور قوية كحد أدنى.
  • خيارات للمستخدم: السماح للعميل باختيار التحدث إلى إنسان أو عدم تسجيل المحادثة.
  • مراجعة زمن التسجيل: التأكد من توقف التسجيل فور نهاية المحادثة الفعلية وعدم استمرار التقاط الصوت المحيط.
  • شفافية وإعلام: إبلاغ المستخدمين بكيفية استخدام وتخزين بياناتهم وبمدة الاحتفاظ بها.

في النهاية، الحكاية تذكرنا بأن دمج الذكاء الاصطناعي في خدمات العملاء يحتاج إلى مراعاة الخصوصية بنفس قدر الاهتمام بفعالية الخدمة. الشركات قد توفر تكاليف عبر الشات بوت، لكن توفير الأمان وحماية خصوصية العملاء أمر لا يمكن تجاهله.

ملاحظة: Transformco لم تقدم رداً واضحاً على استفسارات إعلامية حول مدى الوصول إلى تلك القواعد أو حول تفاصيل مدة تعرّضها للعامة قبل تأمينها.