روبوت محرر أكواد مدعوم بالذكاء الاصطناعي يختلق سياسة، مما يؤدي إلى إلغاء الاشتراكات

واجه محرر أكواد مدعوم بالذكاء الاصطناعي، وهو Cursor، ردود فعل سلبية مؤخراً بعد أن اخترع روبوت الدردشة الخاص به سياسة للشركة. اكتشف أحد المطورين أن تبديل الأجهزة يُنهي جلساته على Cursor على الفور. وعند الاتصال بالدعم، ادعى وكيل ذكاء اصطناعي يدعى "سام" أن هذه ميزة أمان جديدة. ومع ذلك، لم تكن هناك سياسة من هذا القبيل؛ اخترعت تقنية الذكاء الاصطناعي المعلومات، مما أدى إلى شكاوى المستخدمين وإلغاء الاشتراكات. ويبرز هذا المخاطر المترتبة على نشر أنظمة الذكاء الاصطناعي في الأدوار التي تواجه العملاء دون إشراف بشري، مما قد يؤدي إلى عملاء محبطين، وتآكل الثقة، وخسائر مالية.