۲۰ سال قبل، وقتی دیپ بلو قهرمان شطرنج دنیا گری کاسپاروف را شکست داد، ما درسی بزرگ آموختیم. اما آن، درسی نیست که فکر میکنید.
رقابت گَری کاسپاروف با اَبَرکامپیوترِ دیپبلو، که به صورت دو مسابقهٔ شش قسمتی مجزا در سالهای ۱۹۹۶ و ۱۹۹۷ انجام شد هرگز از اذهان پاک نمیشود. در مسابقه اول این کاسپاروف بود که ۴ به ۲ پیروز شد. اما در مسابقه دوم اوضاع بر وفق مراد قهرمان افسانهای شطرنج دنیا جلو نرفت.
استیون لِوی در آن زمان برای نیوزویک کار میکرد و حالا بعد از ۲۰ سال، در عصری که هوش مصنوعی به شکوفایی رسیده و داریم اثرات آن را در زندگی روزمره میبینیم، نگاهی دوباره دارد به مسابقه دوم. و درسهایی که برای نسل فعلی میتوان نقل کرد.
پیشزمینه
اتاقی که رویداد در آن برگزار شد چیدمانی شبیه یک اتاق مطالعه داشت -جایی که شاید چند دوست برای وقتگذرانی یک مسابقه شطرنج خودمانی برگزار کنند. اما افراد پشت آن میز شطرنج حرفهای بودند، و فقط یکی برای بازی پول میگرفت.
اولی آقای مورِی کَمپبل، محقق کامپیوتر در شرکت آی.بی.ام بود، و شغلش جابهجا کردن مهرهها با هدایت کامپیوتری بود که در ساختش کمک کرده بود. وضعیت او تلفیقی بود از بیاعتنایی و انتظار، مثل مسافری که مطمئن نبود اتوبوس کجا توقف خواهد کرد.
آن سوی میز، قهرمان شطرنج دنیا، گَری کاسپاروف نشسته بود، با تمرکزی چنان شدید که میتوانست در یک جنگلِ بارانی آتش بیفروزد. سرش بالای تخته شطرنج معلق بود انگار که سعی داشت بفهمد کدام مهره خائن تهدیدی برای او است. قوزک پاهایش میلرزیدند. آشکارا تحت فشاری بزرگ بود.
بقیه در ادامه مطلب:
همزمان، رقیب واقعیاش -یک اَبَرکامپیوتر به نام دیپبلو که دورتر از اتاق در طبقه ۳۵ این آسمانخراش مرکز شهر بود- نه فقط فشاری حس نمیکرد، بلکه حتی نمیدانست فشار اصلا چیست.
من نیز در آن اتاق بودم، حداقل برای چند دقیقه، زیرا به نوبت آدمها یکی از ۸ صندلی اتاق را اشغال میکردند. فوریهٔ ۱۹۹۷ بود، داشتم مسابقه کاسپاروف-دیپبلو را برای نیوزویک پوشش میدادم -مسابقهای تاریخی که کامپیوتر آی.بی.ام در آخر قهرمان شطرنج دنیا را شکست داد.
من هم به نوع خودم لباس رزم به تن داشتم، برای قرار گرفتن مسابقه روی جلد مجله تلاش میکردم. حتی با اینکه از دبیرم این جمله را شنیده بودم، “هرگز طرح روی جلدی با موضوع شطرنج کار نخواهم کرد” اما ناامید نشدم، دلیل آوردم که این داستان درباره بازی شطرنج نیست، بلکه درباره رقابتی حماسیتر بین انسان و هوش مصنوعی است. آنچه میخ آخر را کوبید، عنوان پیشنهادیام برای روی جلد بود، «آخرین دفاعِ مغز.» خوش شانس بودیم که آن هفته هیچ ستارهای در عالم هنر نمرد و روی جلد رفتیم.
چنین شد که چشمهای نافذ و چهرهٔ بسیار مطمئن کاسپاروف روی پیشخوانهای امریکا قرار گرفت، در زمانهای که مردم هنوز برای دیدن طرح جلد هفتهنامهها در پیادهرو توقف میکردند. و «آخرین دفاعِ مغز» تبدیل به عنوانی ماندگار تا امروز شد. حتی کاسپاروف، در تدتاکِ ماه قبلش، دو بار از آن استفاده کرد.
من هنوز از آن عنوان تحریککننده دفاع میکنم. با اینکه شطرنج سختترین کاری نیست که کامپیوترها در قرنهای آینده انجام خواهند داد، اما آن مسابقه تبدیل به سمبلی برای هوش انسان شد. فرقی ندارد در آینده کامپیوترها چه شاهکارهایِ انسانیِ دیگری را تقلید کنند، مسابقهٔ کاسپاروف با دیپبلو یک نقطه محونشدنی در تاریخ هوش مصنوعی خواهد بود.
اما این تنها دلیل برای ماندگاری آن رقابت ۶ بخشی در برج اکوتبل نیست. اکنون که دو دهه گذشته، پرواضح است که اهمیت چگونگی شکست کاسپاروف کمتر از نتیجه خود مسابقه نیست. با اینکه رایانش جامع و یادگیرنده و الگوریتمهای زیرکانه به رقیب او موقعیت برنده را دادند، اما قهرمانِ انسانها زیر فشار حملات روانیِ سازمانیافته در هم شکست، و مجری آنها آی.بی.امی بود که برتریهای سیلیکُنیاش را با حیلههای انسانی در هم آمیخت تا شکست قبلی را جبران کند.
در بازیِ ششم و آخر -که در ابتدایش هر دو رقیب هم امتیاز بودند- کاسپاروف مثل یک روح سرگردان بود. او اخیرا در کتابش تفکر عمیق توضیح داده که چرا در ابتدای آن بازی یک حرکت ریسکی انجام داد که در نهایت بختش برای پیروزی را از او گرفت، “میدانستم که انرژی مورد نیاز برای یک مبارزهٔ پیچیده را ندارم.” ماشینِ آی.بی.ام به مغز او رخنه کرده بود.
در بطن این ماجرا یک داستان اخلاقی وجود دارد.
جنبههای روانی
تقریبا نُه هفته قبل از مسابقه، من با کاسپاروف و سی.جِی. تَن، محقق آی.بی.ام که تیم دیپبلو را هدایت میکرد، ناهار خوردم. هر دو صمیمیتی ظاهری بروز میدادند که گاه از درزهای آن خطرات این قمار بزرگشان بیرون میزد. حالا که ۲۰ سال گذشته با نگاه به یادداشتهای آن گفتگو، چند چیز به ذهنم میآید.
چیز اول اعتماد به نفس آن دو است. تَن قبلا به یک خبرنگار گفته بود که هدف آی.بی.ام از این مسابقه “دیگر انجام یک آزمایش علمی” نیست ولی آن روز در یک اصلاح آشکار گفت، “این [مسابقه] بخشی از یک آزمایش است تا ببینیم کامپیوتر چقدر میتواند جلو برود، برای پیروزی هر کاری بتوانیم انجام میدهیم.” کاسپاروف حتی از اینکه آنها درباره احتمال پیروزی خود حرف زده بودند ناراحت بود. میگفت، “من فکر نمیکنم که صحبت دربارهٔ باخت احتمالی کار درستی باشد، و من تا حالا هرگز نباختهام.”
نکته جالب دیگر در بحثمان جنبههای روانی آن بازی بود. کاسپاروف گفت، “امیدوارم [جنبههای روانی] به کمترین میزان ممکن باشند.”
اما امروز، به نظر میرسد آن جنبهها بزرگتر از دستاوردهای تکنولوژیکِ دیپبلو باشند. گذشت زمان نشان داد که جملهٔ تَن درباره پیروزی آی.بی.ام به هر قیمت شامل ایجاد جنگ روانی علیه رقیب انسانیشان هم بوده است.
یکی از این ابزارها، عنصر غافلگیری بود. کاسپاروف در آغاز مسابقه از این پریشان شده بود که آی.بی.ام نقشهٔ بازیهای تمرینی دیپبلو را در اختیارش قرار نداده بود. او احساس کاستی میکرد زیرا اگر رقیبش یک انسان دیگر بود، میتوانست با مطالعه تاریخچه بازیهای قبلی او و بر طبق ضعفها و استعدادهای رقیب، یک استراتژی برنده طراحی کند.
اما در مقابل دیپبلو تنها کاری که از او بر میآمد مطالعه درباره شطرنجبازهایی بود که به آی.بی.ام در ساخت این سیستم کمک کرده بودند -تنها استادبزرگ در آن گروه، جوئل بنجمین بود، که رتبهٔ بالایی نداشت و برای کاسپاروف، حتی ارزش تحقیق هم نداشت. کاسپاروف به من گفت، “در زندگی کارهایی مهمتر از مطالعه درباره بازیهای بنجمین دارم.” اما او ظن برده بود که آی.بی.ام مخفیانه با استادبزرگهای باتجربهای همکاری میکند. من شخصا از تَن در این باره جویا شدم، و این کارمند آی.بی.ام گفت، “نه، فقط بنجمین را داریم.”
اما در خود مسابقه، آی.بی.ام همکاری با استادبزرگ مشهور، میگل ایلِسکاس، و دو استادبزرگ دیگر به عنوان مشاور را برملا کرد. (کاسپاروف در کتابش میگوید که فقط از انجام بازیهای تمرینی بین ایلِسکاس و دیپبلو خبر داشته، نه آن دو نفر دیگر.) کاسپاروف هیچراهی برای آمادهسازی نداشت، و آنها تعادلش را بر هم زده بودند.
این تنها نیرنگی نبود که آی.بی.ام به کار برد. یک مثال دیگر که کاسپاروف در کتابش آورده را به شما نشان میدهم. در جریان مسابقه، بازیکنها گاهی با استفاده از تاخیر و تعجیل حرکات رقیبشان را به بازی میگیرند. برای مثال، شاید یک نقشه عالی در سر داشته باشند، اما اگر بازی طبق انتظارشان پیش برود، به جای انجام سریع حرکات، وقتکُشی میکنند تا رقیب به تردید بیفتد. آی.بی.ام هم به همین شکل برنامهریزی کرد. سال ۲۰۰۹ در مصاحبهای با یک مجله شطرنج، ایلِسکاس فاش کرد که برخی اوقات دیپبلو با اینکه حرکت بعدی خود را میدانست، چند دقیقه وقت تلف میکرد. وقتی یک کامپیوترِ شطرنجباز اینگونه وقتکُشی میکند، معمولا طرف مقابل تفسیر به دشواری حرکت میکند، یا حتی خرابی دستگاه.
همزمان وقتی کاسپاروف بهترین حرکت خود را انجام میداد، ماشین بلافاصله مهرهای را جابهجا میکرد تا به او القا کند که یکراست وارد تله شده و تعادل فکری او را بر هم میزد. ایلِسکاس میگوید، “این اثری روانی دارد و ماشین را غیرقابلپیشبینی میکند، که یکی از اهداف اصلی ما بود.”
نقطه عطف مسابقه در بازی دوم بود. کاسپاروف اولین بازی را برده بود و حس بسیار خوبی داشت. در دومین رویارویی، رقابت نزدیک بود و طرفین سخت میجنگیدند. اما در حرکت سیوششم، کامپیوتر کاری کرد که تا عمق وجود کاسپاروف لرزید. در موقعیتی که شاید هر بازیکن ردهاولی به ملکهٔ کاسپاروف حمله میکرد، دیپبلو چنین نکرد؛ در عوض حرکتی ظریفتر و موثرتر انجام داد که تصور کاسپاروف از قابلیتهای ماشین را در هم شکست.
به نظر کاسپاروف -و صادقانه مینویسم، بسیاری از شاهدان- دیپبلو (با مقاومت در برابر وسوسهٔ حمله به ملکه) ناگهان از رفتار ماشینی دست برداشته بود و در عوض، استراتژی بهتری را برگزیده بود که فقط خردمندترین استادبزرگ دنیا ممکن بود انجام دهد. در حقیقت، آی.بی.ام با محافظهکاری در نمایش تواناییهای دیپبلو به کاسپاروف، او را فریفته بود. چند روز بعد، او آن لحظه را چنین توصیف کرد: “ناگهان [دیپبلو] برای لحظهای مثل یک خدا بازی کرد.” از آن لحظه به بعد دیگر کاسپاروف نمیدانست که دارد با چه چیزی -یا چه کسی- رقابت میکند. همراه با “یک سرخوردگی مرگبار” رقابت را ادامه داد و در نهایت زخمی و ناتوان از ادامه آن بازی انصراف داد و شکست را پذیرفت.
بعد از بازی دوم، کاسپاروف نه فقط از شکست برآشفته بود بلکه نسبت به چگونگی انجام آن حرکت غیرکامپیوتری، ظنین شده بود. بعدها نوشت، “آن حرکت باعث شد همه چیز را زیر سوال ببرم.” دریافت نسخهٔ چاپی حرکتهای دیپبلو، که توضیح دهد چرا کامپیوتر آن حرکت را کرد -و عدم دخالت انسان را هم اثبات کند- تبدیل به یک وسواس دائمی در کاسپاروف شد. قبل از بازی پنجم، حتی این شرط را گذاشت که نقشهٔ حرکتهای قبلی دیپبلو باید در اختیار یک ناظر بیطرف قرار بگیرد تا پاک بودن رقابت تایید شود. آی.بی.ام بخشی کوچک از تحلیلها را در اختیار یک فرد بیطرف گذاشت، اما هرگز فایل کامل را برملا نکرد.
کاسپاروف بعد از بازی دوم دیگر آن بازیکن قبلی نبود. او در سه بازی بعدی به تساوی رسید، اما علاوه بر فشار روانیِ ناشی از درگیر بودن با آنچه تقلب رقیب میدانست، قوای جسمیاش هم داشت ته میکشید. هر چند طرفین با تساوی وارد بازی نهایی شدند، اما آن روز کاسپاروف با ترس روی صندلی نشست. در کنفرانس خبری بعد از بازی پنجم از او درباره نظر ایلِسکاس سوال شد که گفته بود حالا کاسپاروف از دیپبلو میترسد. کاسپاروف گفت، “از این نمیترسم که اعتراف کنم میترسم!” که تفاوتی آشکار با اعتماد به نفسِ قبل از مسابقهاش داشت.
در عمل، بازی ششم افتضاح شد. از جایی که ما ژورنالیستها میدیدیم، کاسپاروف از ابتدا بُریده بود. بعد از بازی، ادعا کرد که “اصلا در وضعیت بازی کردن” نبوده است. در هفتمین حرکتش، که بایستی یک حرکت عادی در افتتاحیه بازی میبود، چنان اشتباهی انجام داد که آه از نهاد افراد حاضر در سالن اجتماعات بر آمد. تقریبا شبیه این بود که عمدا میخواهد ببازد. چند حرکت بعدیاش بیهدف و سردرگم بودند، و سپس با انزجار کامل انصراف داد. در کنفرانس پرهرجومرج پس از مسابقه هم بین خشم و سرخوردگی در نوسان بود.
آری. بالاخره دستی بالای دستِ استاد پیدا شده بود.
بعد از مسابقه، من برای یک مصاحبه رو در رو اصرار کردم. در سالن رقص هتل پلازا دیدار کردیم، تیمش از ابتدا در آنجا مستقر بود. فضای پیرامون خالی بود، جز چند صندلی غذاخوری، از آنهایی که در ضیافتها میبینیم. مثل بازیکنهای شطرنج، زانو به زانو نشستیم، و البته که میزی در بینمان نبود. کاسپاروف بلافاصله آنچه در کنفرانس خبری گفته بود را تکرار کرد: که آی.بی.ام باید با تکرار بازی، البته در شرایطی بهتر، موافقت کند.
و البته، درباره مخفی کردن نقشه کامل حرکات دیپبلو نیز گلایه کرد. “هیچ اطلاعاتی نمیدهند، من علاقهای به یک بخش از اطلاعات ندارم، کل نقشه حرکاتش را میخواهم! این جزو تعهدات آنها است!”
اما او حتی آن موقع هم میدانست که چرا باخته است. به من گفت، “هرگز نتوانستم با بازی دوم کنار بیایم، از ذهنم بیرون نرفت که نرفت.” و بعد ماجرا را اینطور خلاصه کرد، “این جنگِ یک تنهٔ یک آدم با یکی از بزرگترین شرکتهای دنیا بود.”
سهام آی.بی.ام بعد از آن بازی جهش کرد. و آنها هرگز با تقاضای کاسپاروف برای تکرار مسابقه موافقت نکردند.
انسان با نقابِ ماشین
امروز کاسپاروف دیگر برای عناوین شطرنج رقابت نمیکند. او یک فعال سیاسی است که در مقابل رقیبی ترسناکتر از آی.بی.ام میجنگد: ولادیمیر پوتین. کتاب جدید او سفری است در فصلی از زندگیاش که بیش از آنچه خود دوست دارد، شخصیت او را تعریف کرده است. او حالا درباره این صحبت میکند که آینده بازیِ شطرنج به همکاری ماشین و انسان بستگی دارد. در تدتاکِ اخیرش، دیگر گلایههای قبلیاش از آی.بی.ام درباره بازی با دیپبلو را تکرار نکرد.
اما در کتابش نتوانسته جلوی خود را بگیرد و به گذشته سر زده -نقشههای بازی، نیرنگها، گمراهسازیها، و استادبزرگها. او میگوید که دیگر به تقلب از طرف آی.بی.ام باور ندارد. اما بعد یک سناریوی دقیق را شرح میدهد، که ریشه در همان مصاحبهٔ ایلِسکاس دارد، که شاید آی.بی.ام قبل از بازی ششم تغییراتی در دیپبلو انجام داده بود تا حرکت کلیدی او را خنثی کند. کاسپاروف، البته مبهم، اشاره میکند که آی.بی.ام محافظان روسزبانی را در محیطهای خصوصی او گماشته بود، حرکتی که شاید این تغییر لحظهآخری را توضیح دهد (جاسوسی). نمیگوید آنها تقلب کردهاند. ولی خب به هر حال شبهه وارد میکند.
من درباره این گمانهزنیها سکوت میکنم، حتی آنهایی که شاید شانه به مرز جنون میسایند. وقتی مسابقه با دیپبلو انجام شد، هوش مصنوعی در دوره زمستانی خود بود. اما اینک غنچههای زیادی دارد و ما هر روز از دستاوردهای جدید در زمینه یادگیری ماشین میخوانیم.
در ۲۰۱۷، نگاه دنیا هم بسیار عوض شده و ما خیلی راحت، اینطور چیزها را اجتنابناپذیر قلمداد میکنیم. نمونه واضح آن مسابقه پارسال است، در جریان رقابتی ۵ مرحلهای نرمافزار آلفاگوی شرکت دیپمایند (زیرمجموعهٔ گوگل) توانست قهرمان ۱۸ بارهٔ مسابقات جهانیِ گو (Go) را شکست دهد. با این حال آلفاگو نیازی به تکرار تاکتیکهای آی.بی.ام (فریب، حواسپرت کردن، و در نهایت نابود کردن کاسپاروف) نداشت. قهرمان انسانی این مسابقه، لی سِدول، با احترام به رقیبش و اعلام ترس از پیشرفت علم کامپیوتر مسابقه را پایان داد. و با اینکه پوشش این رقابت بسیار خوب بود، اما اصلا به اندازه رویارویی کاسپاروف و دیپبلو افسانهای نشد. همانطور که نوشتم، دنیا عوض شده. با صرف وقت، پول، و یادگیری ماشین، هیچ مانعی در راه بهبود ادراک کامپیوترها نیست که رفع نشود.
وقتی من بازی کاسپاروف و دیپبلو را پوشش میدادم، فکر میکردم که درامِ قضیه رقابت ماشین و انسان است. اما واقعا این ماجرای یک عده انسان بیرحم با انگیزههای سرمایهداری بود که با هوش مصنوعی دستبهیکی کردند تا اعتماد به نفس و وقار یکی از بزرگترین قهرمانهای تاریخ دنیا را خرد کنند. این مرا به این باور میرساند که در سناریوی ظهور اسکاینت (اشاره به فیلم نابودگر از جیمز کامرون) ما نباید نگران هوش مصنوعی باشیم، بلکه باید نگران موجودات دو پایی باشیم که اینطور سیستمها را میسازند و به کار میگیرند.
اشتباه برداشت نکنید. من هنوز موافق دانشمندانی هستم که میگویند پیشرفتها در هوش مصنوعی، برای ارتقای وضع زندگی ما لازمند. در آخر «استفاده از قدرت محاسباتی کامپیوترها برای ایجاد درک و شناخت مصنوعی» یک دستاورد تاریخی و مهم برای انسانها است. اما اجازه هست یک جمله به این بیانیه اضافه کنم؟
همیشه نقشهٔ حرکتهای هوش مصنوعی را بررسی کنید.