सीयर्स अभी भी दुकानों की शौकिनी यादों में है, पर उसका होम सर्विसेस बिज़नेस भी चला रहा है और उसने ग्राहक सेवा में AI लगाया है: एक वॉयस असिस्टेंट जिसे टीम ने "समान्था" कहा है और टेक्नोलॉजी का नाम "kAIros" बताया गया है।

क्या हुआ?

सुरक्षा शोधकर्ता Jeremiah Fowler ने फरवरी में तीन सार्वजनिक रूप से उपलब्ध डेटाबेस ढूंढे जिनमें बहुत बड़ी मात्रा में ग्राहक बातचीत और ऑडियो फाइलें थीं। इन फाइलों में 2024 से लेकर हाल तक की रिकॉर्डिंग्स और उनके टेक्स्ट ट्रांसक्रिप्ट थे।

डेटा में क्या था?

  • 3.7 मिलियन चैट लॉग
  • 1.4 मिलियन ऑडियो फाइलें और प्लेन टेक्स्ट ट्रांस्क्रिप्ट
  • एक CSV फाइल में 54,359 पूरे चैट लॉग्स थे
  • डेटा अंग्रेजी और स्पेनिश दोनों में था
  • ग्राहकों के नाम, फोन नंबर, घर के पते, घर के उपकरणों की जानकारी, डिलीवरी और रिपेयर अपॉइंटमेंट जैसी निजी जानकारियाँ मौजूद थीं

क्यों यह गंभीर है?

Fowler ने बताया कि यह सब असली लोगों का असली डेटा है। ऐसे दूषित डेटा से फिशिंग और वारंटी-धोखाधड़ी जैसी योजनाएं आसान हो जाती हैं क्योंकि हमलावरों के पास व्यक्ति की संपर्क जानकारी और घर के उपकरणों की सूची होती है।

सबसे चौंकाने वाला हिस्सा

कुछ कॉल्स में ऑडियो कई घंटे तक चल रहा था, कुछ रिकॉर्डिंग्स चार घंटे तक की मिलीं। इसका मतलब यह हो सकता है कि ग्राहक सोच रहे थे कि कॉल खत्म हो गई है, पर रिकॉर्डिंग चलती रही और घर की पृष्ठभूमि-ध्वनियाँ, निजी बातचीत और अन्य संवेदनशील बातें भी रिकॉर्ड हो गईं। Fowler का कहना था: "आप टीवी सुन सकते हैं, आप लोगों की बातें सुन सकते हैं, और यह सब रिकॉर्ड हो गया।"

बॉट की सीमाएँ और ग्राहकों की नाराज़गी

फाइलों में बॉट के व्यवहार की कई झलकियां भी थीं: बॉट कभी-कभी सवालों का जवाब नहीं दे पाता और ग्राहक को इंसान से बात करने के लिए भेज देता है। एक 76 मिनट की कॉल में दो मिनट के अंदर ग्राहक ने मानव एजेंट मांगा, पर बॉट ने कहा कि वह समस्या सुलझा सकता है, फिर कुछ मिनट बाद बॉट ने कहा कि वह त्रुटि महसूस कर रहा है और कॉल ट्रांसफर करने की जरूरत है।

एक टेक्स्ट ट्रांस्क्रिप्ट में सुबह 11 बजे शुरू होकर 1:30 बजे खत्म होते- होते एक व्यक्ति बार-बार "मेरा टेक्नीशियन कहाँ है?" 28 बार पूछता है और अंत में बॉट से कहता है: "तुम एक कंप्यूटर हो। तुम एक कंप्यूटर हो।"

रिसर्चर ने क्या किया और कंपनी ने कैसे जवाब दिया?

Fowler ने Transformco को सूचित किया जिसे सीयर्स और सीयर्स होम सर्विसेज़ चलाते हैं। रिपोर्ट के बाद डेटाबेस जल्दी से सुरक्षित कर दिए गए, पर यह पता नहीं चला कि ये फाइलें कितने समय तक सार्वजनिक थीं या किन लोगों ने इन्हें एक्सेस किया। Transformco ने इस मामले पर कई सवालों का जवाब नहीं दिया।

Fowler ने बताया कि जब उन्होंने रिपोर्ट भेजी तो उन्हें उत्तर में कहा गया कि उन्हें समान्था AI चैटबॉट मैनेजर से जोड़ा जाएगा, पर बाद में उस व्यक्ति ने कोई फॉलो-अप संदेश नहीं भेजा।

क्या सुधार चाहिए?

  • डेटा सुरक्षा - फाइलें पासवर्ड से सुरक्षित और एन्क्रिप्ट की जानी चाहिए थीं।
  • रिकॉर्डिंग विकल्प - ग्राहकों को विकल्प दिए जाने चाहिए कि वे इंसान से बात करना चाहते हैं या रिकॉर्डिंग न हो।
  • पारदर्शिता - कंपनियों को यह स्पष्ट करना चाहिए कि वे किस डेटा को क्यों और कितनी देर के लिए रखती हैं।

Oxford की Carissa Véliz का कहना है कि कुछ लोग मशीन से बात करते समय सुरक्षित महसूस कर सकते हैं, पर साथ ही उन्होंने जोर दिया कि लोगों के पास संवेदनशील जानकारी सौंपने का कम विकल्प होना चिंता का विषय है। उन्हें यह भी कहना था कि ग्राहकों को सुरक्षित और सहज महसूस कराना कंपनी के लिए बेहतर होगा, बजाय इसके कि वे परे महसूस करें या शोषित।

निष्कर्ष

यह मामला हमें याद दिलाता है कि AI लगाने से लागत कम हो सकती है, पर सुरक्षा के नियम और ज़िम्मेदारी कम नहीं हो सकती। छोटे-छोटे शॉर्टकट न ले कर कंपनियों को डेटा की रक्षा पर अधिक ध्यान देना होगा, क्योंकि असली लोग और उनकी असली ज़िंदगियाँ इसी में जुड़ी हुई हैं।