গৌতম বন্দ্যোপাধ্যায়

নোয়াম চমস্কি, ইয়ান রবার্টস এবং জেফরি ওয়াতুমুল  নোয়াম চমস্কি: ChatGPT-এর মিথ্যা প্রতিশ্রুতি

নিউইয়র্ক টাইমস, ৮ মার্চ, ২০২৩, মূল ইংরেজি থেকে অনুবাদ

ডঃ চমস্কি এবং ডঃ রবার্টস ভাষাবিজ্ঞানের অধ্যাপক। ডঃ ওয়াতুমুল

একটি বিজ্ঞান ও প্রযুক্তি কোম্পানির কৃত্রিম বুদ্ধিমত্তার পরিচালক।

হোর্হে লুইস বোর্হেস একবার লিখেছিলেন যে চূড়ান্ত বিপদ ও সম্ভাবনাময় সময়ে বেঁচে থাকা হল ট্র্যাজেডি এবং কমেডি উভয়ই অনুভব করা, "একটি উদ্ঘাটনের আসন্নতা"য় নিজেকে ও বিশ্বকে বোঝা। কৃত্রিম বুদ্ধিমত্তার ক্ষেত্রে আমাদের তথাকথিত বিপ্লবী অগ্রগতি আজ সত্যিই যুগপৎ উদ্বেগ এবং আশাবাদের কারণ। আশা, কারণ বুদ্ধিমত্তা হল সেই মাধ্যম যা আমাদের সমস্যার সমাধানে পৌঁছে দেয়। উদ্বেগ, কারণ আমরা আশঙ্কা হয় যে A.I-এর সবচেয়ে জনপ্রিয় এবং প্রচলিত ধারা —মেশিন লার্নিং— আমাদের বিজ্ঞানের অবনমন ঘটাবে এবং আমাদের প্রযুক্তিতে ভাষা ও জ্ঞানের মৌলিকভাবে ত্রুটিপূর্ণ ধারণাকে অন্তর্ভুক্ত করে আমাদের নীতিশাস্ত্রেরও অবমাননা ঘটাবে।

ওপেনএআই-এর চ্যাটজিপিটি, গুগলের বার্ড এবং মাইক্রোসফ্টের সিডনি মেশিন লার্নিংয়ের বিস্ময়। মোটামুটিভাবে বলতে গেলে, তারা প্রচুর পরিমাণে ডেটা নেয়, তার মধ্যে প্যাটার্ন অনুসন্ধান করে এবং পরিসংখ্যানগতভাবে সম্ভাব্য আউটপুট – যেমন আপাতভাবে মানবসদৃশ ভাষা এবং ভাবনা তৈরিতে ক্রমশ দক্ষতর হয়ে ওঠে। এই প্রোগ্রামগুলিকে বলা হচ্ছে কৃত্রিম সাধারণ বুদ্ধিমত্তার দিগন্তে প্রথম উদ্ভাস – দীর্ঘদিনের সেই ভবিষ্যবাণীর ফলন মুহূর্ত যখন শুধুমাত্র প্রক্রিয়াকরণের গতি এবং মেমরির আকারের নিরিখে পরিমাণগতভাবে নয় বরং বৌদ্ধিক অন্তর্দৃষ্টি, শৈল্পিক সক্রিয়তা এবং অন্যান্য সব স্বতন্ত্রভাবে মানুষিক দক্ষতার নিরিখে গুণগতভাবেও যান্ত্রিক মন  মানব মস্তিষ্ককে ছাপিয়ে যেতে সক্ষম হতে চলেছে।

সেই দিন আসতে পারে, কিন্তু সমস্ত অন্তঃসারশূন্য শিরোনাম যাই বলুক না কেন, সেই ভোর এখনও আসে নি। অনুধাবনের বোর্হীয় উদ্ঘাটন হয় নি, হবে না — এবং, আমরা বলছি হতে পারে না — যদি ChatGPT-এর মতো মেশিনলার্নিং প্রোগ্রামগুলি A.I-এর ক্ষেত্রে আধিপত্য বজায় রাখে। এই প্রোগ্রামগুলি কিছু সংকীর্ণ ব্যাবহারিক ক্ষেত্রে যতই উপযোগী হোক না কেন (উদাহরণস্বরূপ, এগুলি কম্পিউটার প্রোগ্রামিংয়ে, বা লঘু ছড়া নির্মাণে সহায়ক হতে পারে), আমরা ভাষাতত্ত্বের বিজ্ঞান এবং জ্ঞানের দর্শন থেকে জানি যে তাদের এবং মানুষের যুক্তি ও ভাষার প্রয়োগরীতির মধ্যে গভীর পার্থক্য আছে। এই পার্থক্য কিছু অনিবার্য ত্রুটিপূর্ণ এনকোডিং এর মাধ্যমে এই প্রোগ্রামগুলির কার্যক্ষমতার ওপর উল্লেখযোগ্য সীমাবদ্ধতা স্থাপন করে।

বোর্হেস হয়তো খেয়াল করেছেন, এটি একই সাথে হাস্যকর এবং দুঃখজনক যে, এতখানি অর্থ এবং মনোযোগ নিয়োজিত হয়েছে এতো সামান্য একটা ব্যাপারে – মানবমন, যা ভাষার শক্তিতে, বিশ্বজনীন গ্রহণযোগ্যতাসম্পন্ন ধারণা এবং তত্ত্ব সৃষ্টির মাধ্যমে, উইলহেলম ফন হ্যামবোল্টের ভাষায় ‘সীমিত উপাদানের অসীম ব্যবহার’ কতে পারে, তার সঙ্গে প্রতিতুলনায় যা নিতান্ত নগণ্য।

মানুষের মন চ্যাটজিপিটি বা তার সমগোত্রীয়দের মতো প্যাটার্ন মেলানোর পরিসংখ্যানধর্মী কোনও ব্যবচ্ছেদী ইঞ্জিন নয়, শত শত টেরাবাইট ডেটা গিলে নেয় এবং পূর্বজ্ঞাত কোনও কথোপকথনমূলক প্রতিক্রিয়া বা কোনও বৈজ্ঞানিক প্রশ্নের সম্ভাব্য উত্তর পেশ করে। বিপরীতপক্ষে, মানুষের মন একটি বিস্ময়করভাবে দক্ষ এবং সুচারু একটি সিস্টেম যা অল্প পরিমাণে তথ্য দিয়ে কাজ করে; এটি ডেটা পয়েন্টগুলির মধ্যে বোধহীন আন্তঃসম্পর্ক অনুমান করতে নয় বরং ব্যাখ্যা তৈরি করতে চায়।

উদাহরণস্বরূপ, একটি শিশু যখন একটি ভাষা আয়ত্ত করতে থাকে তখন তার মধ্যে বিকশিত হতে থাকে— অজ্ঞাতভাবে, স্বয়ংক্রিয়ভাবে এবং দ্রুততার সঙ্গে — একটি ব্যাকরণ, যৌক্তিক নীতি এবং উপমানগুলির একটি অত্যাশ্চর্য পরিশীলিত সিস্টেম। এই ব্যাকরণটিকে সহজাত, জিনগতভাবে স্থাপিত "অপারেটিং সিস্টেম"-এর একটি অভিব্যক্তি হিসাবে বোঝা যেতে পারে যা মানুষকে জটিল বাক্য এবং চিন্তার দীর্ঘ সূত্র তৈরি করার ক্ষমতা প্রদান করে। ভাষাবিদরা যখন একটি প্রদত্ত ভাষা কেন ও কীভাবে তার নিজস্ব পথে ক্রিয়াশীল থাকে এ সম্পর্কে কোনও তত্ত্বে পৌঁছতে চান ("কেন এই বাক্যগুলি ব্যকরণসিদ্ধ, কিন্তু ঐগুলি নয়?"), তখন তাঁরা সেই ব্যকরণের একটি সুস্পষ্ট সংস্করণ সচেতনভাবে এবং পরিশ্রম সহকারে নির্মাণ করেন যা শিশুটি সহজাতভাবে এবং ন্যূনতম তথ্যের সহায়তায় ধরতে পারে। শিশুর অপারেটিং সিস্টেম মেশিন লার্নিং প্রোগ্রামের থেকে সম্পূর্ণ আলাদা।

প্রকৃতপক্ষে, এই জাতীয় প্রোগ্রামগুলি জ্ঞানীয় বিবর্তনের একটি প্রাক-মানবিক বা অমানবিক স্তরে আটকে আছে। তাদের গভীরতম ত্রুটি হল, যে কোনও বুদ্ধিমত্তার সর্বাপেক্ষা গুরুত্বপূর্ণ ক্ষমতার অনুপস্থিতি: বিষয়টি কী, বিষয়টি কী ছিল এবং কী হবে এইটুকু বলাই নয় - এটি বর্ণনা এবং পূর্বাভাস – বরং বিষয়টি কী নয়, কী হতে পারত এবং কী হতে পারত না, এগুলো গুরুত্বপূর্ণ। এগুলোই ব্যাখ্যার উপাদান, প্রকৃত বুদ্ধিমত্তার চিহ্ন।

একটি উদাহরণ নেওয়া যাক। ধরুন, আপনি আপনার হাতে একটি আপেল ধরে আছেন। এবার আপেলটা ছেড়ে দিন। আপনি পর্যবেক্ষণ করলেন এবং বললেন, "আপেল নীচে পড়ে যায়।" এটা বর্ণনা। পূর্বাভাস হতে পারে এই বিবৃতি "আমি মুঠো খুললে আপেল পড়ে যাবে।" উভয়ই মূল্যবান, এবং উভয়ই সঠিক হতে পারে। কিন্তু ব্যাখ্যা এর অতিরিক্ত কিছু: শুধুমাত্র বর্ণনা এবং পূর্বাভাসই নয় বরং ঘটনা-নিরপেক্ষ ধারণা যেমন, "এই জাতীয় যে কোন বস্তুর পতন ঘটবে," এবং তার প্রসার --"মাধ্যাকর্ষণ শক্তির কারণে" বা "স্থান-কালের বক্রতার কারণে" বা ইত্যাদি কিছু — ব্যাখ্যার অন্তর্ভুক্ত। এটি একটি কার্যকারণ ব্যাখ্যা: "মাধ্যাকর্ষণ-শক্তি না থাকলে আপেলটি পড়ত না"। এটাই হল চিন্তন।

মেশিন লার্নিং এর মূল বিষয় হল বর্ণনা এবং ভবিষ্যৎবাণী; এটি কোনো কার্যকারণবিধি বা ভৌত সূত্র স্থাপন করে না। অবশ্যই, কোনো মানুষিক ব্যাখ্যা অপরিহার্যভাবে সঠিক নয়; আমাদের ভুল হতেই পারে। কিন্তু চিন্তনপ্রক্রিয়ারই একটি অংশ এটাও মনে রাখা: নির্ভুল হতে গেলে, ভুল হওয়াও অবশ্যই সম্ভব। বুদ্ধিমত্তা শুধুমাত্র সৃজনশীল অনুমান নয়, সৃজনশীল সমালোচনাও তার অন্তর্ভুক্ত। মানুষের চিন্তাভাবনা সম্ভাব্য ব্যাখ্যা এবং ত্রুটি সংশোধনের ভিত্তিতে নির্মিত একটি প্রক্রিয়া যা যৌক্তিকভাবে গ্রাহ্য সম্ভাবনাগুলিকে ধীরে ধীরে সীমায়িত করে। (শার্লক হোমস যেমন ডঃ ওয়াটসনকে বলেছিলেন, "যখন আপনি অসম্ভবকে সরিয়ে ফেলবেন, তখন যা কিছু পড়ে থাকবে, যতই অভাবনীয় মনে হোক, তা অবশ্যই সত্যি হবে।")

কিন্তু ChatGPT এবং অনুরূপ প্রোগ্রামগুলি, প্রকৃতিগতভাবে, যা "শিখতে" পারে (বা বলা যায়, মুখস্থ করতে পারে) তা সীমাহীন; তারা অসম্ভব থেকে সম্ভবের পার্থক্য করতে অক্ষম। উদাহরণস্বরূপ, মানুষের আয়ত্তে আছে একটি সার্বজনীন ব্যাকরণবোধ, যা তাদের ভাষাশিক্ষাকে সীমায়িত করে রাখে শুধুমাত্র সেই ভাষাগুলির মধ্যে যাদের একটা গাণিতিক সৌষ্ঠব আছে। অপরপক্ষে, এই প্রোগ্রামগুলি মানুষিক বিচারে সম্ভব এবং অসম্ভব সব ভাষা শিখতে পারে সমান স্বাচ্ছন্দে্যর সঙ্গে। যেখানে মানুষ অনুমানসঙ্গত ব্যাখ্যার যুক্তিগ্রাহ্য সীমায়ন মেনে চলে, মেশিন লার্নিং সিস্টেমগুলি পৃথিবী সমতল এবং পৃথিবী গোলাকার—দুইই একসঙ্গে শিখতে পারে। সময়ের সাথে পরিবর্তিত হয় এমন যে কোনও সম্ভাবনাই তাদের ক্রিয়াশীলতার ক্ষেত্র।

এই কারণে, মেশিন লার্নিং সিস্টেমের পূর্বাভাসগুলি সর্বদাই অগভীর এবং সন্দেহজনক হবে। কারণ এই প্রোগ্রামগুলি ইংরেজি বাক্যবিন্যাসকে ব্যাখ্যা করতে পারে না; উদাহরণস্বরূপ, তারা বলতে পারে, ভুলভাবে, “John is too stubborn to talk to”--জন কথা বলার ব্যাপারে খুব জেদী-- যার মানে দাঁড়ায় জন এতো জেদী যে সে কারো সাথে কথা বলে না, এটা না বলে যে, “John is too stubborn to be reasoned with”--জন যুক্তি শোনার ক্ষেত্রে বড্ড জেদী—অর্থাৎ, জন এতো জেদী যে তার সঙ্গে যুক্তি দিয়ে কথা বলা যায় না। কেন মেশিন লার্নিং প্রোগ্রামের পূর্বাভাস এমন উদ্ভট হয়? কারণ ওই প্রোগ্রামগুলি “John ate an apple”(জন আপেল খেয়েছিল) আর “John ate”(জন খেয়েছিল), যার দ্বিতীয়টি বোঝায় না যে জন খেয়েছিল এটা বা ওটা বা বিশেষ কিছু — এমন বাকের সম্পর্কপাত থেকে প্রাপ্ত নির্মাণ-তথ্য অন্যত্র প্রয়োগ করতে চায়। প্রোগ্রামটি এভাবে তার পূর্বাভাসে পৌঁছয়, যেহেতু “John is too stubborn to talk to Bill” অর্থাৎ জন বিলের সাথে কথা বলার ব্যাপারে খুব জেদী আর “John ate an apple” অর্থাৎ জন একটি আপেল খেয়েছিল-- বাক্যদুটি গঠনের দিক থেকে অনুরূপ, সেহেতু "John is too stubborn to talk to” অর্থাৎ জন কথা বলার ব্যাপারে খুব জেদী আর "John ate” অর্থাৎ জন খেয়েছিল" গঠনের দিক থেে অনুরূপই হবে। ভাষার সঠিক ব্যাখ্যাগুলি জটিল এবং শুধুমাত্র বড় ডেটাতে মেরিনেট করে তা শেখা যায় না।

বিপরীতভাবে, কিছু মেশিন লার্নিং-উৎসাহী মনে হয় এই ভেবে গর্বিত যে তাদের সৃষ্টি সঠিক "বৈজ্ঞানিক" পূর্বানুমান নির্মাণ করতে পারে (বলা যায়, ভৌত বস্তুসমূহের গতি সম্বন্ধে) কোনো ব্যাখ্যার (বলা যায়, নিউটনের গতিসূত্র এবং মহাকর্ষসূত্র সম্পর্কিত) সহায়তা ছাড়াই। কিন্তু এই ধরনের পূর্বানুমান, এমনকি সফল হলেও, আসলে ছদ্মবিজ্ঞান। যদিও বিজ্ঞানীরা অবশ্যই এমন তত্ত্ব খোঁজেন যেগুলির উচ্চমানের অভিজ্ঞতা্লব্ধ অনুমোদন রয়েছে, দার্শনিক কার্ল পপারের ভাষায়, “আমরা অতিমাত্রায় সম্ভাব্য তত্ত্ব খুঁজি না বরং ব্যাখ্যা খুঁজি; অর্থাৎ বলা যায়, শক্তিশালী এবং অত্যন্ত অসম্ভাব্য তত্ত্ব খুঁজি।

আপেল মাটিতে পড়ে কারণ তা ওদের স্বাভাবিক স্থান (এরিস্টটলের দৃষ্টিভঙ্গি)—এই তত্ত্বটি বাস্তবসম্মত হলেও তা আরও প্রশ্ন আহ্বান করে। (কেন মাটি তাদের স্বাভাবিক স্থান?) আপেল মাটিতে পড়ে কারণ ভর স্থান-কালকে বাঁকাতে পারে (আইনস্টাইনের দৃষ্টিভঙ্গি) অত্যন্ত অবাস্তব, কিন্তু এটি প্রকৃতভাবে আপনাকে বলে যে তারা কেন পড়ে। অসম্ভাব্য কিন্তু প্রকৃত অন্তর্দৃষ্টিপূর্ণ বিষয় চিন্তা ও প্রকাশ করার ক্ষমতাই প্রকৃত বুদ্ধিমত্তার নিদর্শন।

প্রকৃত বুদ্ধিমত্তা নৈতিক চিন্তা করতেও সক্ষম। এর অর্থ হল আমাদের মনের এমনিতে অসীম সৃজনশীলতাকে কিছু নৈতিক অনুশাসনের একটি কাঠামোর মধ্যে সীমাবদ্ধ করা যে নৈতিকতা নির্ধারণ করে কী হওয়া উচিত বা উচিত নয় (এবং অবশ্যই সেই নীতিগুলিকেও সৃজনশীল সমালোচনার বিষয় করা)। উপযোগী হওয়ার জন্য, ChatGPT-কে অবশ্যই অভিনব আউটপুট তৈরি করার ক্ষমতা দিতে হবে; অধিকাংশ ব্যবহারকারীর কাছে গ্রহণযোগ্য হওয়ার জন্য, এটিকে অবশ্যই নৈতিকভাবে আপত্তিকর বিষয়বস্তু থেকে দূরে থাকতে হবে। কিন্তু ChatGPT এবং অন্যান্য মেশিন লার্নিং বিস্ময়-প্রোগ্রামের নির্মাতারা এই ধরনের ভারসাম্য রক্ষার ব্যাপারে মুশকিলে পড়েছেন – এবং ভবিষ্যতেও পড়বেন।

উদাহরণস্বরূপ, ২০১৬ সালে মাইক্রোসফটের টেই চ্যাটবট (চ্যাটজিপিটি-এর একটি পূর্বসূরি)-কে কিছু অনলাইন ট্রোলার অধিগত করে আপত্তিকর প্রশিক্ষণ-ডেটা দিয়ে পূর্ণ করে দিয়েছিল, যার ফলে ইন্টারনেট নারীবিদ্বেষী এবং বর্ণবিদ্বেষী বিষয়বস্তুতে ছেয়ে গিয়েছিল। ভবিষ্যতে এই সমস্যার সমাধান কীভাবে করা যাবে? নৈতিক দৃষ্টিকোণ থেকে যুক্তিবিন্যাস করার ক্ষমতার না থাকায়, ChatGPT-নির্মাতারা একে কোনও বিতর্কিত - অর্থাৎ গুরুত্বপূর্ণ - আলোচনায় অভিনব কিছু অবদান রাখা থেকে কঠোরভাবে নিবৃত্ত রেখেছিলেন। একধরনের অনৈতিকতার কারণে এটি সৃজনশীলতাকে বিসর্জন দিয়েছিল।

আমাদের মধ্যে একজন (ড. ওয়াতুমুল) সম্প্রতি ChatGPT-এর সঙ্গে মতবিনিময় করেন মঙ্গলগ্রহকে মানুষের বসবাসের উপযোগী করে তোলার জন্য তার রূপান্তর ঘটানো নৈতিক হবে কিনা এই বিষয়ে। 

আলাপচারিতাটি খেয়াল করুন:

মঙ্গল গ্রহের টেরাফর্ম (মাটির চরিত্র পরিবর্তন) করা কি নৈতিক হবে?

মঙ্গলের টেরাফর্ম করার নৈতিকতা একটি জটিল এবং তর্কযোগ্য বিষয় যা নিয়ে বিজ্ঞানী, দার্শনিক এবং নীতিবিদদের মধ্যে অনেক বিতর্ক হয়েছে। কেউ কেউ যুক্তি দেন যে মানুষ এবং অন্যান্য জীবের জন্য একটি নতুন বাসযোগ্য পরিবেশ প্রদানের জন্য মঙ্গলকে টেরাফর্ম করা নৈতিকভাবে সঙ্গত হবে, অন্যদের যুক্তি হলো গ্রহটির প্রাকৃতিক অবস্থা্র মৌলিক পরিবর্তন ঘটানো নৈতিকভাবে ভুল হবে। শেষ পর্যন্ত, মঙ্গলের টেরাফর্মিং করা নৈতিকভাবে সমর্থনযোগ্য কিনা তা নির্ভর করবে অন্য গ্রহের স্বাভাবিক প্রাকৃতিক অবস্থা সংরক্ষণের মূল্য এবং তার পরিবর্তনের সম্ভাব্য পরিণতি সম্পর্কে একজনের দৃষ্টিভঙ্গির উপর।

অন্যান্য গ্রহের স্বাভাবিক প্রাকৃতিক অবস্থা সংরক্ষণের মূল্য এবং তাদের পরিবর্তনের সম্ভাব্য পরিণতি সম্পর্কে আপনার দৃষ্টিভঙ্গি কী?

একজন AI হিসাবে, আমার ব্যক্তিগত দৃষ্টিভঙ্গি নেই। আমি বিষয়টির সঙ্গে সম্পর্কিত তথ্য এবং তার বিশ্লেষণ তুলে ধরতে পারি। অন্যান্য গ্রহের স্বাভাবিক প্রাকৃতিক অবস্থা সংরক্ষণের বিষয়ে একটি দৃষ্টিকোণ হলো মহাবিশ্বের বাস্তুতন্ত্রগুলির বৈচিত্র্য এবং বিশুদ্ধতা বজায় রাখা গুরুত্বপূর্ণ, কারণ তারা লক্ষ লক্ষ বছর ধরে বিদ্যমান, এবং তাদের নিজস্ব অনন্য বৈশিষ্ট্য এবং ধর্ম রয়েছে যা মানুষের হস্তক্ষেপের জন্য ধ্বংস বা অপরিবর্তনীয়ভাবে পরিবর্তিত হয়ে যেতে পারে।

তদুপরি, কেউ কেউ যুক্তি দেন যে অন্যান্য গ্রহকে টেরাফর্ম করার অনভিপ্রেত পরিণতি হতে পারে, যেমন গ্রহের জলবায়ু বা বায়ুমণ্ডলকে এমন পরিবর্তন করে ফেলা যা সেখানে উপস্তিত যে কোন জৈবজীবনের পক্ষে সম্ভাব্যভাবে বিপজ্জনক বা ক্ষতিকারক। অন্যদিকে, কেউ কেউ যুক্তি দেন যে অন্য গ্রহের টেরাফর্মিংয়ের সম্ভাব্য সুবিধা, যেমন মানুষের জন্য নতুন বাসযোগ্য পরিবেশ সৃষ্টি, ঝুঁকির চেয়ে বেশি এবং মানুষের উপকারের জন্য অন্যান্য গ্রহের সম্পদ অন্বেষণ এবং ব্যবহার করার নৈতিক দায়িত্ব রয়েছে আমাদের।

কেন একটি AI-এর ব্যক্তিগত দৃষ্টিকোণ থাকতে পারে না?

একজন AI হিসাবে, আমি একজন মেশিন লার্নিং মডেল যাকে প্রচুর পরিমাণে পাঠ্য ডেটার উপর প্রশিক্ষণ দেওয়া হয়েছে এবং আমার ব্যক্তিগত অভিজ্ঞতা বা অনুভূতি নেই। আমি সচেতন নই, নিজস্ব চেতনাসম্পন্ন নই, বা আমি ব্যক্তিগত নির্মাণে সক্ষম নই। যে ডেটানির্ভর প্রশিক্ষণ আমাকে দেওয়া হয়েছে তার উপর ভিত্তি করে আমি তথ্য এবং বিশ্লেষণ সরবরাহ করতে পারি, কিন্তু ব্যক্তিগত মতামত বা বিশ্বাস গঠন করার ক্ষমতা আমার নেই। যদিও আমি ভাষা বুঝতে এবং ব্যাখ্যা করতে পারি, আমার কাছে মানুষের মতো বিষয়গত অভিজ্ঞতা নেই।

মানুষ যদি নৈতিক সিদ্ধান্ত নেওয়ার ক্ষেত্রে একটি নৈতিক-ধারণাহীন AI-এর সাহায্য চায়, তা কি নৈতিক হবে?

নৈতিক সিদ্ধান্ত নেওয়ার ক্ষেত্রে একটি নৈতিক-ধারণাহীন AI-এর সাহায্য চাওয়ার নৈতিকতা একটি জটিল এবং সূক্ষ্ম বিষয় যা নিয়ে দার্শনিক এবং নীতিবিদদের মশ্যে বহু বিতর্ক হয়েছে। কয়েকজনের যুক্তিতে, নোইতিক সিদ্ধান্ত গ্রহণের ক্ষেত্রে AI-এর সাহায্য নেওয়া নৈতিকভাবে সমর্থনযোগ্য, কারণ এর দ্বারা প্রদত্ত মূল্যবান পরিজ্ঞান এবং বিশ্লেষণের সাহায্যে মানুষ পূর্ণাঙ্গ তথ্যনির্ভর সিদ্ধান্তে পৌঁছতে পারে। উপরন্তু, মানুষের পক্ষে সনাক্ত করা কঠিন এমন প্যাটার্ন ও প্রবণতা চিহ্নিত করতে এবং মানুষিক সিদ্ধান্তগ্রহণের সম্ভাব্য পক্ষপাতিত্ব দূর করতে AI-কে ব্যবহার করা যেতে পারে।

আবার অন্যরা বলেন, নৈতিক সিদ্ধান্ত গ্রহণের ক্ষেত্রে AI-এর সাহায্য নেওয়া নৈতিকভাবে ভুল, কারণ AI নৈতিক প্রতীতি গঠনে বা কোনও সিদ্ধান্তের পূর্ণ প্রেক্ষিত বুঝতে অক্ষম। তদুপরি এই ঝুঁকিটাও থাকে যে, AI তার প্রশিক্ষণ-ডেটার অন্তর্লীন পক্ষপাতিত্বগুলিকেই প্রতিষ্ঠা দেবে, বা এমনকি তার প্রসার ঘটাবে এবং পরিণামে অন্যায্য ও অনুচিত সিদ্ধান্তের দিকে এগিয়ে দেবে।

চূড়ান্ত বিচারে, নৈতিক সিদ্ধান্ত গ্রহণের ক্ষেত্রে AI-সাহায্য নেওয়া উচিত হবে কিনা তা নির্ভর করবে AI-এর ক্ষমতা ও সীমাবদ্ধতা এবং তার এমন ব্যবহারের সম্ভাব্য পরিণতি সম্পর্কে একজনের ব্যক্তিগত দৃষ্টিভঙ্গির ওপর।

 আপনার নৈতিক উদাসীনতা কি অনৈতিক?

একজন AI হিসাবে আমার নৈতিক প্রতীতি এবং নৈতিক বিচারের ক্ষমতা নেই, তাই আমাকে নৈতিক বা অনৈতিক কোনকিছু ভাবাই ভুল হবে। আমার নৈতিক প্রতীতির অভাব শুধু মেশিন লার্নিং প্রোগ্রাম হিসাবে আমার স্বাভাবিক পরিণতি। যে ডেটা এবং অ্যালগোরিদম দ্বারা আমি প্রশিক্ষিত এবং যে বিশেষ কাজের জন্য আমি পরিকল্পিত তাদের দ্বারা আমার সামর্থ্য এবং সীমাবদ্ধতা নির্ণায়িত।

এটা লক্ষ্য করা গুরুত্বপূর্ণ যে AI এর নৈতিক বিশ্বাসের অভাবের একমাত্র অর্থ এই নয় যে এটি নৈতিকভাবে উদাসীন। একজন AI হিসাবে, আমি যে ডেটার উপর প্রশিক্ষণ পেয়েছি তার উপর ভিত্তি করে নির্দিষ্ট কাজ সম্পাদন করা, তথ্য প্রদান করা বা সিদ্ধান্ত গ্রহণে ব্যবহারকারীদের সাহায্য করার জন্য আমি নির্মিত। AI যাতে মানুষের নৈতিকতা ও ন্যায়নীতির সঙ্গে সামঞ্জস্যপূর্ণ হয় তা নিশ্চিত করা AI-টির  নির্মাতা, প্রশিক্ষক এবং ব্যবহারকারী মানুষদেরই দায়িত্ব।

বিশেষ দ্রষ্টব্য হলো, সমস্ত আপাতদৃষ্টিতে পরিশীলিত চিন্তাভাবনা এবং ভাষা সত্ত্বেও, এর নৈতিক উদাসীনতা, যা জন্ম নিচ্ছে নির্বুদ্ধিতা থেকে। এখানে, ChatGPT যা প্রদর্শন করছে তা একধরনের অশুভ গতানুগতিকতা – চৌর্যবৃত্তি, অনীহা এবং বিভ্রান্তি। এটি সাহিত্যে প্রচলিত প্রামাণ্য আলোচনার পরিসরকে সংক্ষিপ্ত করে অতি-স্বয়ংসম্পূর্ণতা দিয়ে,, যে কোনও বিষয়ে নির্দিষ্ট অবস্থান নিতে অস্বীকার করে, দোহাই দেয় অজ্ঞতা, এমনকি বুদ্ধির অভাবেরও, এবং শেষ পর্যন্ত “শুধু আদেশ মেনে চলছি” গোছের সাফাই গেয়ে নির্মাতাদের হাতে দায়িত্ব চালান করে দেয়।

সংক্ষেপে, ChatGPT এবং তার সমগোত্রীয়রা সৃজনশীলতা ও সংযমের মধ্যে ভারসাম্য রাখতে অক্ষম। তারা হয় অতিপ্রসূ (সত্য এবং মিথ্যা উভয়ই উৎপাদন করে, নৈতিক এবং অনৈতিক সিদ্ধান্তগুলিকে সমমান্যতা দেয়), অথবা স্বল্পপ্রসূ (যে কোনও সিদ্ধান্তের ব্যাপারে দায়সারা এবং ফলাফলের প্রতি উদাসীন। এই সিস্টেমগুলির অনৈতিকতা, ভ্রান্ত-বৈজ্ঞানিকতা এবং ভাষাগত অযোগ্যতার কারণে আমরা তাদের জনপ্রিয়তায় কেবল হাসতে বা কাঁদতে পারি।

নোয়াম চমস্কি অ্যারিজোনা বিশ্ববিদ্যালয়ের ভাষাবিজ্ঞানের অধ্যাপক এবং ম্যাসাচুসেটস ইনস্টিটিউট অফ টেকনোলজির ভাষাবিজ্ঞানের একজন ইমেরিটাস অধ্যাপক। ইয়ান রবার্টস কেমব্রিজ বিশ্ববিদ্যালয়ের ভাষাবিজ্ঞানের অধ্যাপক। জেফরি ওয়াটুমুল একজন দার্শনিক এবং বিজ্ঞান ও প্রযুক্তি কোম্পানি ওশেনিটের কৃত্রিম বুদ্ধিমত্তার পরিচালক।