معرفی فناوری اسکن عکس در دستگاه‌های اندرویدی گوگل بار دیگر نگرانی‌های حریم خصوصی را برانگیخته است. در ابتدا، این شرکت با واکنش‌های منفی روبه‌رو شد که گوگل را متهم به نصب این ویژگی بدون اجازه کاربران کرد. در آن زمان، گوگل توضیح داد که ابزار «SafetyCore» تنها یک زیرساخت است و به طور فعال عکس‌ها یا محتوای شخصی را اسکن نمی‌کند.
بر اساس گفته‌های گوگل، «SafetyCore» به عنوان زیرساختی بر روی دستگاه عمل می‌کند که برای طبقه‌بندی امن و خصوصی محتوای کاربران به‌کار می‌رود و تنها زمانی فعال می‌شود که توسط یک اپلیکیشن از ویژگی اختیاری آن استفاده شود. اکنون این فناوری فعال شده و از پیام‌رسان Messages شروع شده است. همانطور که ۹to5Google گزارش داده، این اپلیکیشن در حال انتشار «هشدار محتوای حساس» است که به طور خودکار تصاویر احتمالاً مستهجن را محو کرده و گزینه‌هایی برای مشاهده یا مسدود کردن چنین محتوایی ارائه می‌دهد. اسکنینگ این محتوا به‌طور کامل روی دستگاه انجام می‌شود و هیچ داده‌ای به گوگل ارسال نمی‌شود.
پلتفرم امنیتی «گرافن‌او‌اس» نیز این ادعا را تایید کرد و گفت که «SafetyCore» به اپلیکیشن‌ها اجازه می‌دهد تا محتوا را به صورت محلی طبقه‌بندی کنند بدون اینکه گزارشی به گوگل یا طرف‌های دیگر ارسال شود. این فناوری به تشخیص هرزنامه‌ها، کلاهبرداری‌ها و بدافزارها به‌طور مستقیم روی دستگاه کمک می‌کند. با این حال، «گرافن‌او‌اس» همچنین از نبود شفافیت انتقاد کرده و اشاره کرد که «SafetyCore» و مدل‌های آن منبع‌باز نیستند و این محدودیت‌ها باعث کاهش نظارت عمومی بر آن می‌شود.
در حال حاضر این ویژگی به‌طور پیش‌فرض برای کاربران بزرگسال غیرفعال است و آنها می‌توانند آن را در تنظیمات «Protection & Safety» در «پیام‌رسان گوگل» فعال کنند؛ در حالی که برای کودکان به‌طور پیش‌فرض فعال است و تنظیمات آن از طریق تنظیمات حساب کاربری یا «Family Link» گوگل قابل تغییر است.
این توسعه نشان‌دهنده یک تغییر کلی‌تر در فضای دیجیتال است؛ زیرا دولت‌ها به طور فزاینده‌ای فشار می‌آورند تا پلتفرم‌ها به ارتباطات رمزگذاری‌شده دسترسی پیدا کنند. مدافعان حریم خصوصی هشدار می‌دهند که این فناوری‌ها، اگرچه محلی و ظاهراً امن به نظر می‌رسند، زمینه را برای قابلیت‌های نظارتی گسترده‌تر فراهم می‌کنند.
علاوه بر این، به‌روزرسانی گوگل همزمان با افزایش نگرانی‌ها در مورد ادغام هوش مصنوعی تولیدی در «واتس‌اپ» توسط «متا» است. با وجود ادعای «متا» مبنی بر اینکه دستیار هوش مصنوعی آن اختیاری است و هدف آن ارتقاء تجربه کاربری است، منتقدان اشاره دارند که این دستیار به طور کامل قابل حذف نیست؛ که سوالاتی در مورد کنترل واقعی و رضایت کاربران مطرح می‌کند. «متا» از تصمیم خود دفاع کرده و تأکید می‌کند که در حال گوش دادن به بازخورد کاربران و ارتقاء حریم خصوصی همزمان با این تغییرات است.
گوگل همچنین با انتقادات روبه‌رو شد زمانی که سیستم هوش مصنوعی خود، «جمینای»، را در «پیام‌رسان گوگل» معرفی کرد. کاربران نگرانی‌هایی را در مورد اینکه ممکن است این سیستم تاریخچه پیام‌ها را برای تنظیم پاسخ‌ها تجزیه و تحلیل کند ابراز کردند؛ امری که با یک پلتفرم پیام‌رسان رمزگذاری‌شده هماهنگ نیست.
همانطور که پالی هادسون در «گاردین» نوشت، حضور فزاینده هوش مصنوعی در اپلیکیشن‌های شخصی، ترس‌هایی از نظارت دائمی ایجاد می‌کند: «اگر شما برای محصول پول پرداخت نمی‌کنید، خودتان محصول هستید.»
انتشار ویژگی‌های هوش مصنوعی در حال گسترش توسط غول‌های فناوری مانند گوگل و «متا»، عصر جدیدی از تعاملات دیجیتال را نشان می‌دهد؛ عصری که کاربران باید به دقت ارزیابی کنند که کجا باید خط قرمز خود را برای حفظ حریم خصوصی بکشند. اکنون ۳ میلیارد کاربر در پلتفرم‌های مختلف باید تصمیم بگیرند که چه میزان نظارت و تجزیه و تحلیل هوش مصنوعی را قبول دارند.
