خطرات بالقوه توسعه هوش مصنوعی
توسعه هوش مصنوعی در کنار کاربردهای وسیع و مفید، خطرات بالقوه‌ای را نیز به‌همراه دارد. الگوریتم جدید شرکت گوگل موسوم به رویای عمیق، تصادفاً به برخی از این ویژگی‌ها و خطرات بالقوه هوش مصنوعی نظیر پیشی گرفتن از هوش انسانی نیز اشاره می‌کند.
به گزارش مرکز روابط عمومی و اطلاع رسانی معاونت علمی و فناوری ریاست جمهوری بخش فناوری های همگرا(nbic): شرکت گوگل در ماه گذشته الگوریتم جدید خود را موسوم به الگوریتم "رویای عمیق" (Deep Dream)، عرضه کرد. این الگوریتم، شاخه‌ای عجیب از فناوری شناسایی تصویر بر مبنای هوش مصنوعی می‌باشد و توسط آن، تصاویر معمولی به دنیایی خیالی و توهمی تبدیل می‌شوند. ولی با وجود تصاویر زیبای ایجاد شده، رویای عمیق تصادفاً به برخی از ویژگی‌ها و خطرات بالقوه هوش مصنوعی نیز اشاره می‌کند.
در راستای طراحی این نرم‌افزار، یک شبکه عصبی مصنوعی توسط میلیون‌ها نمونه تصویر، آموزش داده‌شده و پارامترهای شبکه به‌تدریج تنظیم می‌شوند تا در نهایت با معیارهای موردنظر تطابق داشته باشند. این شبکه از 10 الی 30 لایه نورون مصنوعی تشکیل شده‌است. هر یک از تصاویر به لایه ورودی وارد می‌شود، سپس این لایه با لایه بعدی تبادل اطلاعات کرده و در نهایت پاسخ از لایه خروجی حاصل می‌شود.
سازندگان رویای عمیق، این فرایند آموزشی را وارونه کرده‌اند. آن‌ها تعداد زیادی از تصاویر مختلف نظیر تصویر یک موز یا یک پیچ را به شبکه عصبی نشان داده و سپس به آن اجازه دادند تا تصاویری از آن جسم را به‌تنهایی تولید کند.
پس از اتمام فرایند آموزش، به این نرم‌افزار تصویری از یک حیوان داده شد و خروجی آن بررسی شد. نرم‌افزار انواعی از حیوانات را که در تصویر اصلی وجود نداشتند تولید کرد. به‌نظر می‌رسید که شبکه عصبی به وضوح دچار نوعی پاریدولیا شده‌بود. پاریدولیا یک پدیده روان‌شناسی است که سبب می‌شود فرد در تصاویر و صداهای مختلف، الگوهای خاصی را مشاهده کند که در حقیقت وجود ندارند ( برای مثال، دیدن چهره در ابرها و یا تصاویر مذهبی در اجسام تصادفی). البته تمام افراد تا حدودی از این توانایی بهره‌مندند و این توانایی، مبنای تست رورشاخ می‌باشد.
با این وجود در موارد حاد، پاریدولیا یکی از علائم بیماری روانی می‌باشد. هرچند تصاویر تولید شده توسط رویای عمیق بسیار شگفت‌انگیزند، اما بر اساس استانداردهای انسانی، این تصاویر محصول یک ناخودآگاه غیرعادی می‌باشند.
البته برنامه‌نویسان می‌توانند شبکه را به‌نحوی کالیبره کنند که تنها در جستجوی الگوهای خاصی بوده و از مابقی صرف‌نظر کند. اما از نقطه‌ای به بعد، شبکه‌ها پیچیده‌تر از مدل‌های فعلی شده و امکان کنترل تمام نتایج آن‌ها وجود نخواهد داشت.
به‌نظر می‌رسد که متقاعد کردن یک مغز مصنوعی برای تجدید نظر در عقاید غلط خود، بسیار ساده‌تر از متقاعد کردن انسان برای کنارگذاشتن ایده‌ها و تعصب‌های نادرست خود می‌باشد. اما ماشین‌ها قادرند حجم بسیار وسیعی از اطلاعات را با سرعتی فراتر از تصور بشر پردازش کنند. این بدین معنی است که این ماشین‌ها می‌توانند برخی ویژگی‌های شخصیتی نامناسب، تعصب‌ها و نگرش‌های خاص به جهان داشته باشند که سرعت توسعه آن‌ها بسیار بیشتر از تصحیح آن‌ها توسط انسان است.
در حال حاضر چنین نگرانی‌هایی متعلق به دنیای تخیلی است. نرم‌افزار رویای عمیق، مختص یک عملیات خاص است. ولی به یکی از خطرات هوش مصنوعی نیز اشاره می‌کند. احتمال دارد ماشین‌های هوشمند، مغز منحصر به‌فردی برای خود توسعه دهند و نگرش آن‌ها با نگرش سازندگان انسانی آن‌ها کاملاً مغایرت داشته باشد و در نهایت، توسعه و پیشرفت مغز مصنوعی ممکن است به حدی باشد که مغز بشر در کنار آن ناچیز به نظر برسد.
منبع :معاونت علمی و فناوری ریاست جمهوری
تاریخ درج : يکشنبه ۱ شهريور ماه ۱۳۹۴
کلیه‌ی حقوق مادی و معنوی این وب سایت متعلق به شاه توت سیستم می‌باشد
امیر مشهدیshahtootsystem.irshahtootsystem.ir - ساشافخخفسغسفثئ.هق - صصص.ساشافخخفسغسفثئ.هق