ورود هوش مصنوعی به سازمانها يك سوال اساسي ايجاد كرده است؛ كدام تصميمها را ميتوان به ماشين سپرد و كدام تصميمها همچنان نيازمند قضاوت انساني هستند؟ اين پرسش در پنل «اخلاق و عامليت هوش مصنوعي در سازمانها» با حضور متخصصاني از حوزه فيزيك، استراتژي نوآوري و علوم شناختي بررسي شد. به گزارش پيوست، پنل «اخلاق و عامليت هوش مصنوعي در سازمانها» كه در كارخانه نوآوري آزادي، مركز نوآوري پلنت برگزار شد، از سه زاويه علمي، سازماني و شناختي درباره اين پرسش صحبت كردند كه در مواجهه با هوش مصنوعي چه تصميمهايي بايد به ماشين سپرده شود و چه تصميمهايي همچنان نيازمند قضاوت انساني است. شاهين روحاني، استاد تمام فيزيك دانشگاه صنعتي شريف و برنده جايزه خوارزمي، در اين نشست با اشاره به برداشتهاي اغراقآميز درباره تواناييهاي هوش مصنوعي گفت: بخشي از توانايي اين فناوري در حوزه تخيل و تصور بيش از اندازه بزرگ شده است. او تاكيد كرد كه هوش مصنوعي نميتواند چيزي را تصور كند كه بشر پيش از آن انجام نداده باشد و از اين منظر نميتوان انتظار داشت كه اين فناوري به معناي واقعي دست به كشف بزند. روحاني توضيح داد: هوش مصنوعي بر اساس دادهها، آموزشها و تجربههاي موجود كار ميكند و نميتواند از چارچوب چيزهايي كه تاكنون به آن ارايه شده، به سادگي عبور كند. به گفته او، تفاوت اصلي هوش مصنوعي در اين نيست كه مانند انسان يك ايده كاملا جديد خلق كند، بلكه در اين است كه انجام بسياري از كارها را امكانپذير يا سريعتر ميكند. او با اشاره به تجربه استفاده از هوش مصنوعي در فعاليتهاي علمي و روزمره خود گفت: زماني كه از اين ابزار براي آمادهسازي محتوا يا انجام برخي كارها استفاده ميكند، بخش زيادي از توان آن مربوط به سرعت بخشيدن به فرآيندهايي است كه پيشتر توسط انسان انجام ميشدند. روحاني تاكيد كرد كه نبايد توانايي هوش مصنوعي در ايجاد خروجيهاي سريع و قابل قبول را با فرآيند كشف و خلاقيت انساني يكسان دانست.
عامليت هوش مصنوعي؛ تفاوت اصلي با فناوريهاي گذشته
در بخش ديگري از نشست، روحاني درباره تفاوت هوش مصنوعي با فناوريهاي پيشين گفت: يكي از ويژگيهايي كه اين فناوري را از ابزارهاي گذشته جدا ميكند، مفهوم «عامليت» است.
او توضيح داد: بسياري از فناوريهاي پيشين مانند موشك، اينترنت يا ابزارهاي محاسباتي، بدون تصميم مستقيم انسان اقدامي انجام نميدهند، اما سيستمهاي هوش مصنوعي ميتوانند بر اساس دادهها و شرايط موجود تصميم بگيرند و اقدام كنند. او با اشاره به مفهوم Agent يا عامل هوشمند گفت: همين توانايي تصميمگيري و اقدام مستقل، باعث شده هوش مصنوعي با فناوريهاي گذشته تفاوت جدي داشته باشد. روحاني تاكيد كرد: مدلهاي هوش مصنوعي مانند يك نرمافزار سنتي نيستند كه برنامهنويس دقيقا بداند در هر لحظه چه اتفاقي درون آن رخ ميدهد. در بسياري از مدلهاي جديد، برنامهنويس تنها ساختار آموزش را طراحي ميكند و پس از آموزش، رفتار سيستم هميشه قابل پيشبيني به شكل كامل نيست. در ادامه صادق برادران، دكتراي فنآفريني دانشگاه تهران، در اين نشست با اشاره به تجربه سازماني استفاده از هوش مصنوعي گفت: سازمانها بايد به جاي تمركز صرف بر ريسكها، درباره چگونگي استفاده از اين فناوري براي حل مسائل واقعي فكر كنند. برادران تاكيد كرد كه اگر يك شركت نتواند با كمك هوش مصنوعي هزينههاي خود را كاهش دهد يا تجربه مشتري را بهبود دهد، احتمالا فرصت بزرگي را از دست داده است. او نمونهاي از تجربه شخصي خود در توسعه يك ايده با استفاده از ابزارهاي هوش مصنوعي را مطرح كرد و گفت: كاري در گذشته ممكن بود به چند ماه زمان و ميلياردها تومان هزينه نياز داشته باشد، با كمك اين ابزارها در مدت كوتاهتر انجام شده است. به گفته او، در يك تجربه عملي، ايدهاي كه براي طراحي آن نياز به تيم توسعه، هزينه چند ميليارد توماني و چند ماه زمان وجود داشت، با كمك ابزارهاي هوش مصنوعي در مدت كوتاهتر و با هزينه بسيار پايينتر به بخش بزرگي از نياز مورد نظر رسيد.
هوش مصنوعي نبايد باعث از دست دادن فرصتها شود
برادران در ادامه با اشاره به نگرانيهاي موجود درباره ريسكهاي هوش مصنوعي گفت: نبايد ترس از خطرهاي احتمالي باعث شود سازمانها فرصتهاي اين فناوري را از دست بدهند. او گفت: بسياري از مسائل اجتماعي، محيطزيستي و اقتصادي كه در گذشته اجراي راهحل براي آنها دشوار بود، امروز با كمك هوش مصنوعي دوباره قابل بررسي شدهاند. او مثالي درباره استفاده از هوش مصنوعي براي مسائل محيطزيستي مطرح كرد و گفت: ايدههايي كه پيش از اين فقط در حد تصور باقي ميماندند، امروز امكان تبديل شدن به پروژههاي عملي دارند.برادران تاكيد كرد: سازمانها بايد دوباره بسياري از مسائل را بررسي كنند، زيرا ممكن است راهكارهايي كه در گذشته غيرممكن به نظر ميرسيدند، اكنون امكان اجرا پيدا كرده باشند.
كارهاي روتين نبايد همچنان توسط انسان انجام شود
برادران در بخش ديگري از صحبتهاي خود درباره آينده اشتغال گفت: هدف استفاده از هوش مصنوعي نبايد حذف انسانها باشد. كارهاي تكراري و روتين نبايد همچنان توسط نيروي انساني انجام شوند و انسان بايد از انجام فعاليتهاي تكرارشونده به سمت كارهاي خلاقانهتر و ارزشآفرينتر حركت كند. وي مثال زد كه بسياري از كاركنان ساعتها صرف بررسي فايلهاي اكسل، كنترل دادهها يا انجام كارهاي تكراري ميكنند؛ در حالي كه اين فعاليتها ميتواند توسط سيستمهاي هوشمند انجام شود و نيروي انساني براي تصميمگيريهاي مهمتر وقت داشته باشد. او گفت: در سازمانها نگاه اصلي نبايد اخراج كاركنان باشد، بلكه بايد آموزش مجدد، تغيير مهارتها و انتقال افراد به نقشهاي جديد دنبال شود. در ادامه آسو شجاعي، دكتراي علوم اعصاب شناختي از دانشگاه تربيت مدرس، در بخش ديگري از پنل به موضوع سوگيريهاي شناختي در سيستمهاي هوش مصنوعي پرداخت. او با اشاره به تجربه كار روي سيستمهاي تشخيص چهره گفت: يكي از مشكلات اصلي اين سيستمها اين است كه دادههاي آموزشي آنها هميشه خنثي و بدون سوگيري نيست. شجاعي توضيح داد: انسانها نيز داراي سوگيريهاي شناختي هستند؛ براي مثال افراد معمولا چهره افرادي كه از نظر فرهنگي يا قومي به آنها نزديكتر هستند را دقيقتر تشخيص ميدهند و چهره گروههاي ديگر ممكن است براي آنها شبيهتر به نظر برسد. به گفته او، همين الگوهاي شناختي انساني ميتواند در دادههاي آموزشي سيستمهاي هوش مصنوعي بازتاب پيدا كند. او تاكيد كرد: مساله سوگيري فقط به تشخيص چهره محدود نيست و در حوزههايي مانند استخدام، تشخيص مجرم بودن افراد، تعيين صلاحيت اجتماعي و ارايه خدمات نيز ميتواند اثرگذار باشد. شجاعي گفت: اگر سيستمهاي هوش مصنوعي بر اساس دادههايي آموزش ببينند كه داراي سوگيري هستند، همان الگوها را در تصميمهاي خود بازتوليد خواهند كرد.
ارزيابي خروجي هوش مصنوعي؛ نقش كنترل انساني
شجاعي در ادامه تاكيد كرد: در تصميمهايي كه با زندگي، حقوق و آينده افراد ارتباط دارد، انسان بايد همچنان در حلقه تصميمگيري باقي بماند. او گفت: حوزههايي مانند قضاوت حقوقي، تعيين صلاحيت افراد يا تصميمهايي كه درباره دسترسي افراد به فرصتها گرفته ميشود، نيازمند حضور قضاوت انساني هستند. به گفته او، هوش مصنوعي ميتواند ابزار تحليل و كمك به تصميمگيري باشد، اما نميتواند جايگزين كامل تجربه زيسته انسان، درك موقعيت و قضاوت اخلاقي شود. در بخش پاياني نشست نيز بر ضرورت ارزيابي خروجي سيستمهاي هوش مصنوعي تاكيد شد. سخنرانان اشاره كردند كه سازمانها نبايد صرفا به دليل توليد خروجي توسط يك مدل هوش مصنوعي، آن خروجي را معتبر فرض كنند.
مخاطب گرامی، ارسال نظر پیشنهاد و انتقاد نسبت به خبر فوق در بخش ثبت دیدگاه، موجب امتنان است.
ع
