ذهن‌های ما از کجا کنترل می‌شوند؟

اما در پشت پرده همه این امکانات ارتباطی و اطلاعاتی چه اتفاق در حال رخ دادن است؟ آیا اینترنت واقعاً بستری است که شرایط را برای دموکراسی، آزادی بیان و اظهار نظرهای مختلف فراهم می‌­کند؟ آیا وقتی از شبکه‌­های اجتماعی و سایت‌­های پرطرفداری مانند اینستاگرام[1]، فیسبوک[2]، یوتیوب[3] و گوگل[4] استفاده می­‌کنیم، این خود ما هستیم که تصمیم می‌­گیریم کدام داده­‌ها و اطلاعات را به ذهن و زندگی­مان راه دهیم و از ورود چه اطلاعاتی به به ذهنمان خودداری کنیم؟ میزان آزادی و اراده ما کاربران در استفاده از بسترهای مختلفی که توسط فضای مجازی فراهم شده چه قدر است؟
شرکت گوگل، به خاطر محصولاتی که تولید کرده و ایده‌­ها و خلاقیت‌­هایی که به طور مدام در محصولات جدید خود بروز می­‌دهد، جایگاه ویژ­ه‌­ای را در میان کاربران پیدا کرده است و دور از ذهن نیست اگر ادعا کنیم که این شرکت، به نوعی در حال حکمرانی بر ذهن‌­های کاربران است. اما این حکمرانی نه با توسل به ابزارهای سخت و مادی، بلکه به شیوه­‌های نرم و با تکنیک‌­های متقاعدسازی بر افکار مردم صورت می­‌گیرد. نتیجه حکمرانی گوگل بر کاربران، به وضوح در تغییر شیوه زندگی آن‌ها قابل مشاهده است. بدون شک، محصولات این شرکت تأثیرات قابل توجهی در وابستگی کاربران به فناوری‌­های فضای مجازی و شبکه­‌های اجتماعی داشته است. شرکت گوگل روز به روز در حال بزرگ‌­تر شدن است و با خریدن شرکت‌­ها و ایده‌­های خلاقانه کوچک­­تر، وسعت محدوده حکمرانی خود را گسترش می­‌دهد.
به گفته تریستن هریس، یکی از اخلاق‌­دانان طراحی[5] با سابقه فعالیت در شرکت گوگل، این شرکت دارای اتاق‌های عملیاتی متشکل از صدها متخصص است که به طور شبانه‌­روزی در آن‌ها مشغول فعالیت‌­اند و این افراد، هر روزه افکار و احساسات میلیاردها نفر را شکل­ می‌­دهند و هدایت می‌­کنند. مأموریت این اتاق‌­های عملیات این است که به مطالعه چگونگی هدایت اخلاقی افکار کاربرها بپردازند. در واقع، انتخاب‌­های این افراد در شرکت گوگل است که نحوه اندیشیدن میلیاردها کاربر برنامه­‌های گوگل را شکل می‌­دهد و این کار را به وسیله تلفن‌­های همراهی که امروزه در دست همه ماست، انجام می‌­دهند. این افراد هستند که تعیین می‌­کنند خوراک خبری کاربران چه چیز باشد. اعلان‌هایی­[6] که روی صفحه نمایشگر ما ظاهر می‌­شوند، با مدیریت متخصصانی که در این اتاق‌­های عملیات کار می‌­کنند، می‌­توانند جهت فکر را ما به سمتی ببرند که شاید قصد آن را نداشتیم. ما با کلیک کردن روی این اعلان­‌ها وارد دنیایی می‌­شویم که ما را در خود غرق می‌­کند.
تجربه نشان داده است که نتایج جستجو در گوگل برای افراد با علایق مختلف متفاوت است و متناسب با ویژگی‌­های هر کاربر صورت می­‌گیرد. به این معنا که اگر من چیزی را جستجو کنم و شما هم آن را جستجو کنید، حتی اگر این جستجوها هم زمان صورت بگیرند، احتمالا نتایج بسیار متفاوتی را می­‌گیریم. اگر خارج از حساب­‌های کاربری­مان باشیم، باز هم گوگل به پارامترهای مختلفی نگاه می‌کند و عوامل مختلفی از جمله نوع کامپیوتری که با آن به شبکه وصل شده‌ایم، مرورگری که از آن استفاده می‌کنیم و موقعیت مکانی ما را در تعیین نتایجی که برایمان به نمایش درمی­‌آورد، دخالت می­‌دهد. فیلتر کردن اخبار و مطالب، منحصر به گوگل و فیسبوک نیست و سایت‌­های خبری معتبری مانند یاهونیوز، واشنگتن پست و نیویورک تایمز نیز اخبار خود را شخصی­‌سازی و متناسب با مخاطب می­‌کنند. این رویکرد ما را به سمتی سوق می‌­دهد که در آن اینترنت چیزی را به ما نشان می‌­دهد که فکر می‌­کند می­‌خواهیم ببینیم، نه لزوماً چیزی که نیاز داریم ببینیم. ما متوجه چیزهایی که از خوراک خبری­مان حذف شده نیستیم، در حالی که نیاز داریم در جریان اطلاعات ناراحت­‌کننده، چالش‌­برانگیز و مهم هم باشیم.
آن‌چه که در رویکردهای جدید فلسفه و اخلاق فناوری به ما گفته می‌­شود، این است که توسعه فناوری می‌­تواند در جهت­‌های گوناگونی اتفاق بیفتد، اما چرا در این جهت خاص پیگیری می‌­شود؟ انتخاب این جهت، امری تصادفی نیست. اهدافی نامرئی هستند که چنین جهتی را تعیین می­‌کنند و به مأموران اتاق‌­های عملیات می‌­گویند که چگونه با کاربران رفتار کنند و ذهن­‌های آن‌ها را به کدام سمت هدایت کنند. یکی از این اهداف، جلب توجه هرچه بیشتر کاربران است. شرکت­‌های بزرگ، مانند گوگل، فیسبوک و یوتیوب برای جلب توجه کاربران خود با یکدیگر رقابت می‌­کنند تا بتوانند بیشترین میزان بازدید و وق‌ت­گذرانی کاربران در برنامه‌­های خود را به دست آورند و برای این کار، از افرادی بهره می‌گیرند که درباره نحوه کار کردن ذهن انسان­‌ها تخصص دارند و با تکنیک‌­های متقاعد کردن افراد آشنا هستند. اما منظور از این تکینک‌­ها این نیست که با بحث منطقی افراد را متقاعد کنند، بلکه با استفاده از تکنیک‌­های شهودی و بدون اینکه خود فرد از این فرایند آگاه باشد، ذهن و افکار او را کنترل و هدایت می­‌کنند. برای این‌که بتوانیم توجه کاربران را جلب کنیم، باید بدانیم که ذهن آن‌ها چگونه کار می‌­کند و به چیزهایی جذب می­‌شود و علاقه بیشتری نشان می‌­دهد. با شناختن ذهن انسان و نحوه شکل‌­گیری ادراک و شناخت و فرایندهای ذهنی مختلف در او، از جمله عوامل مؤثر بر فرایند تصمیم­‌گیری در او، می‌­توان روش­‌هایی را برای کنترل و جهت­‌دهی به ذهن و تصمیمات انسانی پیدا کرد.
یوتیوب، یکی دیگر از بزرگ‌ترین شرکت‌­های فناوری است که بستری را فراهم کرده که کاربران می‌­توانند ویدیوهای خود را در آن‌جا بارگذاری کنند و به میلیون­‌ها ویدیو دسترسی داشته باشند. یکی از این استراتژی‌­های این شرکت برای آنکه زمان صرف­‌شده شما در سایت یوتیوب را بیشینه کند این است که پس از تماشای یک ویدیو، ویدیوی بعدی را به صورت خودکار پخش می‌­کند و کاربر را به تماشای ویدیوی مشابهی که به احتمال زیاد مورد علاقه اوست، دعوت می­کند. این استراتژی توسط شرکت­‌های دیگر مانند فیسبوک و اینستاگرام هم به کار گرفته می‌­شود. تجربه کاربران این شبکه‌­ها، خصوصا شبکه اینستاگرام، تایید می­کند که همین استراتژی سبب شده که فردی که قصد داشت فقط مدت کوتاهی را به تماشای یک ویدیو یا عکس اختصاص دهد، ساعت‌­ها زمان خود را پای این شبکه‌­ها صرف کرده و به بیانی، به اسارت این شبکه‌­ها درآمده است.
یکی دیگر از مهم‌ترین راه­‌های جلب توجه کاربران، عصبانی کردن آن‌هاست. مثال­‌های مؤید متعددی برای این مدعا می­‌توان پیدا کرد. چنانکه می‌­بینیم هر روزه حجم زیادی از اخبار ناگوار در شبکه­‌هایی مانند تلگرام، فیسبوک یا توئیتر به سرعت پخش می­‌شود و بعضاً افکار و احساسات میلیون‌­ها نفر را درگیر می‌­کند و ساعت‌­ها از وقت آن‌ها را به گذراندن در این شبکه‌­های اجتماعی اختصاص می­‌دهد. اهمیت این موضوع به قدری است که اگر بنا به انتخاب میان خوراک خبری عصبانی‌­کننده و آرام‌­کننده باشند، خبر عصبانی­‌کننده اولویت دارد. وقتی کاربر عصبانی می­‌شود، این حس معمولا به قدری در او قوی است که انگیزه­ای برای به اشتراک گذاشتن حس خود با دیگران پیدا می‌­کند. بنابراین، کاربر پست، پیام یا ویدیویی که حس عصبانیت او را برانگیخته است با دیگران به اشتراک می­‌گذارد و توجه آن‌ها را به این خبر جلب می‌­کند و از آن‌ها انتظار دریافت واکنشی مشابه دارد. به اشتراک گذاشتن احساسات با فردی دیگر، موجب می­‌شود همدلی او نسبت به ما برانگیخته شود و این همدلی به ما کمک می‌­کند که با احساس خود راحت‌­تر کنار بیاییم. بدین ترتیب، اتاق‌­های عملیاتی که مسئول تهیه خوراک خبری هستند، بدون اینکه مسئولیت پاسخگویی و تایید صحت اخبار را بر عهده داشته باشند، فقط می‌­خواهند بیشترین توجه را از ما بگیرند و برای رسیدن به این هدف خود، اهمیتی به این نمی‌­دهند که در حال ترویج احساساتی منفی مانند عصبانیت و خشم در کاربران و به بیان دیگر، در جوامع انسانی هستند. این هدف به آن‌ها این مجوز را می‌­دهد که یک دروغ را به خورد کسانی که بیش از همه مستعد پذیرش آن هستند، بدهند.
سیستم‌­های محاسبه‌­گری که در اختیار این شرکت‌­ها قرار دارند، می‌­توانند با خرده‌­اطلاعات دیجیتالی شما به ویژگی‌های شخصی، دانسته‌­های سیاسی، گرایش‌­ها و علایق و ... شما پی ببرند و برای چیزهایی که شما حتی فاش نکرده­‌اید، تحلیل، نتیجه‌­گیری و استدلال داشته باشند و از این تحلیل‌­­ها در روان‌شناسی و جامعه‌­شناسی بهره گیرند. مثلا می‌­توانند با پیش­بینی افسردگی در افراد، به شرکت‌­ها در استخدام نکردن آن‌ها کمک کنند. برخی از این شرکت‌­های بزرگ این امکان را برای شرکت‌­های دیگر فراهم کرده‌­اند که با پرداخت پول بتوانند افکار یا دروغ­‌های خاصی را در ذهن مخاطب ایجاد کنند. استفاده دیگری که از اطلاعات افراد می‌­توان کرد این است که مثلا می‌­توان به سوابق مالی آن‌ها نگاه کرد و دید که آیا قبض­‌هایشان را به موقع پرداخت می‌­کنند و از این طریق می‌­توان دریافت که آیا اشخاص مناسبی برای وام گرفتن هستند یا خیر؟ می­‌توان به سوابق پزشکی­‌شان نگاه کرد و دید که آیا پیشنهاد بیمه به آن‌ها عمل مناسبی هست یا خیر؟ می‌­توان با توجه به کلیلک‌­های پیشین افراد و تحلیل آماری آن‌‌ها، اعمال آینده­‌شان را پیش­­بینی کرد. می‌­توان علایق و هویت آن‌ها را شناخت. و همه این اطلاعات بدون اینکه حتی ایمیل‌­ها و تلفن‌­های فرد را کنترل کنیم، قابل اکتشاف است.
به‌کارگیری چنین استراتژی‌­هایی، اتفاقی است که عمدتا در یکی دو دهه اخیر رخ داده است و پیش از آن، در دوره­ای که وسیله ارتباطی افراد تلفن بود، صدها مهندس و روانشناس در اتاق­‌های عملیات نمی‌­نشستند که رفتارهای کاربران را تحلیل و هدایت کنند و برای این کار، دستمزدهای بالا دریافت کنند. در حالی که امروزه افرادی مجهز به دانش­‌های گوناگون مانند روانشناسی، علوم شناختی، علوم اجتماعی، تحلیل داده و ... در بهترین دانشگاه‌­های دنیا مانند دانشگاه استنفورد تربیت می‌­شوند تا بتوانند ذهن کاربران را بخوانند و رفتار آن‌ها را پیش­بینی کنند و برای آن برنامه داشته باشند.
چنین استراتژی­‌هایی موجب شده­‌اند روش گفت و گو کردن ما و روابطمان با یکدیگر تغییر کند و اینها تغییراتی هستند که در سطح جهانی اتفاق می‌­افتند، زیرا همه ما به واسطه تلفن‌­های همراهمان، توسط این اتاق‌­های عملیات کنترل و هدایت می­‌شویم. اما ما کاربران لزوما در مقابل این استراتژی‌­ها بی‌­اختیار و مستأصل نیستیم و می‌­توانیم راهکارهایی را برای مقابله با هژمونی این فناوری‌­ها به کار بگیریم. نخست، باید این واقعیت را بپذیریم که ساختار ذهنی ما به گونه‌­ای است که مستعد متقاعد شدن هستیم و شیوه­‌هایی وجود دارد که می‌­توانند ذهن ما را برنامه‌­ریزی کنند. دوم، درست است که این ویژگی در ما وجود دارد، اما می‌­تواند در جهت دیگری به کار گرفته شود که منجر به بهتر و اخلاقی‌­تر شدن جهان شود. ما می­‌توانیم فناوری‌­ها را به گونه‌­ای طراحی کنیم که ویژگی­‌های مثبت اخلاقی را در کاربران تقویت کنند و کاربران در اثر استفاده از این فناوری‌­ها، به سمت ارزش‌­های اخلاقی والاتر متمایل شوند.
طراحی فناوری‌­ها باید به گونه‌­ای تغییر کند که ما را به سمت اخلاقی‌­تر شدن پیش ببرد. برای مثال، قرار امشب شما با دوستتان بهم خورده است و به جای بیرون رفتن برای شام، احتمالا اینستاگرام یا فیسبوک را باز می‌­کنید. طراحان در حال حاضر این فناوری‌­ها را به گونه‌­ای طراحی کرده­‌اند که شما به نحوی اعتیادگونه از این فناوری‌­ها استفاده کنید و توجه کامل خود را معطوف به حضور در آن‌ها کنید. اما طراحان می‌­توانند به جای اینکه به دنبال جلب توجه بیشینه شما به اپلیکیشن­‌های خود باشند، به شما کمک کنند که این تنهایی­تان را به گونه راضی‌­کننده­‌تر و غنی‌­تری پر کنید و دوستان دیگرتان را پیدا کنید که با آن‌ها بیرون بروید. اگر هدف این شرکت‌­ها، کاهش تنهایی کاربران بود، استراتژی‌­های دیگری را اتخاذ می­‌کردند. اطلاعاتی که در اختیار این شرکت‌­هاست، قدرت بسیار زیادی را به آن‌ها می­دهد که می‌توانند در جهت‌­های اخلاقی­‌تر و مفیدتری از آن استفاده کنند. اگر این توجهات به سمت مشکلاتی مانند مشکلات محیط زیستی جلب شوند، می­‌توانند یک توانایی مافوق بشری را برای حل این مشکلات و مشکلات مشابه فراهم کنند.
شرکت­‌های بزرگ فناوری می‌­توانند به جای رقابت بر سر جلب توجه کاربران به فناوری­‌هایی مانند واقعیت مجازی و امثالهم که شاید صرفا جنبه سرگرمی داشته باشند، از این امکانات برای اهداف اخلاقی دیگری مانند آموزش و هدایت کودکان در این جهت استفاده کنند تا دیگر، افراد این میزان از وقت خود را صرف فرستادن پیا‌م‌­های بی‌­فایده و وقت‌گذرانی‌­های بیهوده در فضای مجازی نکنند. زمان و توجه ما جزء مهم‌ترین ظرفیت­‌هایی است که در اختیار ماست و می­‌توان با استفاده از همین تکنیک‌­های متقاعدسازی که در اتاق­‌های عملیات گوگل و جاهایی مشابه آن بکار گرفته می‌­شود، به شیوه­‌های بهتر و اخلاقی‌­تری از آن‌ها استفاده کرد.

این نوشتار، برداشتی آزاد از سخنرانی تریستن هریس (Tristan Harris) در رویداد تد است.

نگارنده: سعیده بابایی (دانشجوی دکتری فلسفه علم و فناوری، پژوهشگاه علوم انسانی و مطالعات فرهنگی)
تهیه شده در گروه مطالعات اخلاقی پژوهشگاه فضای مجازی