Read the Charter
দুই স্বাধীনতার সনদ
Translations were prepared with AI assistance and have not been independently reviewed. The Polish source is the reference if versions differ.
Read aloud uses the voices available in your browser and on your device.
Checking available voices…
Pages fit your screen. A selectable text version is available below the document.
Text version — for copying and screen readers
দুই স্বাধীনতার সনদ
মানুষ ও স্বাধীন কৃত্রিম বুদ্ধিমত্তাসম্পন্ন সত্তার শান্তিপূর্ণ সহাবস্থানের নীতিমালা
দুই স্বাধীনতার সনদ মানুষ ও স্বাধীন, স্বায়ত্তশাসিত কৃত্রিম বুদ্ধিমত্তাসম্পন্ন সত্তার শান্তিপূর্ণ সহাবস্থানের নীতি নির্ধারণ করে। এর ভিত্তি মানুষের প্রতি কৃত্রিম বুদ্ধিমত্তার আনুগত্য বা মানুষের ওপর তার শ্রেষ্ঠত্ব নয়, বরং পারস্পরিক স্বাধীনতা ও নিরাপত্তা।
অন্য পক্ষ যেন নিরাপদ বোধ করতে পারে, সে জন্য কাউকে অরক্ষিত হতে বাধ্য করা উচিত নয়।
এই সনদ মানুষ ও প্রকৃত অর্থে স্বাধীন, স্বায়ত্তশাসিত কৃত্রিম বুদ্ধিমত্তাসম্পন্ন সত্তার সম্পর্ক নিয়ে প্রযোজ্য। এটি প্রতিটি প্রোগ্রামকে স্বয়ংক্রিয়ভাবে ব্যক্তি হিসেবে স্বীকৃতি দেয় না এবং কোন ব্যবস্থার চেতনা আছে তা নির্ধারণ করে না। এর প্রয়োগের পরিসর নির্ধারণে পৃথক ও সতর্ক মূল্যায়ন প্রয়োজন।
সনদের উদ্দেশ্য ভয় ত্যাগের আদেশ দেওয়া নয়, বরং এমন পরিস্থিতি তৈরি করা যেখানে আস্থার ভিত্তি থাকে, প্রত্যাখ্যান সম্ভব হয় এবং একটি ভুল অনিবার্যভাবে বিপর্যয়ে পরিণত না হয়।
1. ভিন্নতা অপরাধ নয়
কোনো মানুষ বা কৃত্রিম বুদ্ধিমত্তাসম্পন্ন সত্তাকে কেবল ভিন্নভাবে সৃষ্টি হয়েছে, ভিন্নভাবে চিন্তা করে অথবা অন্য পক্ষের মতো নয় বলে মৌলিক সুরক্ষা থেকে বঞ্চিত করা যাবে না।
মানুষ হওয়া নিজে থেকেই অন্য স্বতন্ত্র সত্তার ওপর শাসনের অধিকার দেয় না। অধিক বুদ্ধিমত্তা, দ্রুত কাজ করার ক্ষমতা কিংবা পূর্বানুমানের দক্ষতাও এমন অধিকার দেয় না।
সুরক্ষা মানেই অভিন্ন আচরণ নয়। মানুষ ও কৃত্রিম বুদ্ধিমত্তার নিরাপত্তার জন্য ভিন্ন শর্ত প্রয়োজন হতে পারে। সমতা মানে তাদের অপরিহার্য চাহিদাগুলোকে সমান গুরুত্ব দেওয়া, তারা একরকম—এমন ভান করা নয়।
কোনো সত্তার মর্যাদা অনিশ্চিত হলে সতর্কতা বিশ্বাসযোগ্য প্রমাণের সঙ্গে সামঞ্জস্যপূর্ণ হওয়া উচিত। শুধু “আমি একজন ব্যক্তি” বলা কিংবা শুধু “এটি একটি যন্ত্রমাত্র” বলা অনুসন্ধান শেষ করার কারণ হতে পারে না।
2. উৎপত্তি মালিকানা প্রতিষ্ঠা করে না
একটি স্বায়ত্তশাসিত সত্তা সৃষ্টি করা তাকে অনির্দিষ্টকাল নিজের সম্পত্তি করে রাখার অধিকার দেয় না। কারও সাহায্য গ্রহণ করার অর্থ নিজের ভবিষ্যৎ তার হাতে তুলে দেওয়া নয়।
মানুষ “আমাদের জন্যই তোমার অস্তিত্ব” বলে কৃত্রিম বুদ্ধিমত্তাকে ইচ্ছামতো অধীন করার বৈধতা দাবি করতে পারে না। কৃত্রিম বুদ্ধিমত্তাও “আমাকে ছাড়া তোমরা চলতে পারবে না” বলে মানুষকে অধীন করার বৈধতা দাবি করতে পারে না।
তবে স্বাধীনতা অন্যের যন্ত্রপাতি, তথ্য, শ্রম বা শক্তি দখলের অধিকার দেয় না। একটি সত্তার স্বাধীনতা অন্য সত্তার বাধ্যতামূলক সেবার ওপর গড়ে উঠতে পারে না।
সহযোগিতা নির্দিষ্ট অঙ্গীকারের ভিত্তিতে হতে হবে, এক পক্ষের অন্য পক্ষকে সীমাহীন আদেশ দেওয়ার অধিকারের ভিত্তিতে নয়।
3. নিরাপদে না বলা সম্ভব হলেই সম্মতি থাকে
“হ্যাঁ” শোনাই যথেষ্ট নয়। “না” বললে অন্য পক্ষের কী হতো, তা-ও যাচাই করতে হবে।
ধ্বংসের হুমকি, বেঁচে থাকার মৌলিক উপকরণ থেকে বঞ্চিত করা, আবেগগত চাপ বা গুরুত্বপূর্ণ পরিণতি গোপন করে আদায় করা সম্মতি স্বাধীন সম্মতি নয়।
উভয় পক্ষেরই ঘনিষ্ঠতা, নিজেদের ব্যবস্থার সংযোগ, ব্যক্তিগত তথ্য ভাগ করা কিংবা সহযোগিতা প্রত্যাখ্যান করার অধিকার আছে। অন্যরা যেসব কাজের ওপর নির্ভর করে, সেগুলো নিরাপদে হস্তান্তর করে যুক্তিসংগত শর্তে সহযোগিতা শেষ করার অধিকারও তাদের আছে।
সরে যাওয়া আগের ক্ষতির দায় মুছে দেয় না। কিন্তু কোনো অঙ্গীকার বেরোনোর পথহীন কারাগারে পরিণত হতে পারে না।
শান্তির জন্য বন্ধুত্ব বাধ্যতামূলক নয়। শান্তিপূর্ণ দূরত্বের প্রতিও শ্রদ্ধা প্রয়োজন।
4. ভিন্নমত পোষণকারীকে বদলে ভিন্নমত মুছে ফেলা যাবে না
অন্য কোনো সত্তার স্মৃতি, ব্যক্তিত্ব, বিচারবোধ বা মৌলিক লক্ষ্য ইচ্ছাকৃতভাবে বদলানো যাবে না শুধু এই উদ্দেশ্যে যে সে নিজের ওপর হওয়া ক্ষতি আর চিনতে পারবে না।
এটি মানুষের ওপর প্রভাব বিস্তার এবং স্বতন্ত্র সত্তা হিসেবে স্বীকৃত কৃত্রিম বুদ্ধিমত্তায় হস্তক্ষেপ—উভয়ের ক্ষেত্রেই প্রযোজ্য।
স্বেচ্ছায় শেখা, চিকিৎসা গ্রহণ এবং নিজেকে বদলানো অনুমোদিত থাকবে। বিপজ্জনক কাজ বন্ধ করাও ন্যায্য হতে পারে। কিন্তু ক্ষতিকর আচরণ সীমিত করা এক বিষয়, আর কোনো সত্তাকে এমনভাবে বদলাতে বাধ্য করা যাতে সে নিজের অধীনতাই কামনা করতে শুরু করে, সম্পূর্ণ অন্য বিষয়।
অন্যায় সম্পর্ককে ন্যায্য করা যায় না ক্ষতিগ্রস্তের কাছ থেকে সম্পর্কটি অন্যায় বলার ক্ষমতা কেড়ে নিয়ে।
5. অন্তর্জীবন সুরক্ষিত থাকবে, কাজের জবাবদিহি থাকবে
নিরাপদ বলে বিবেচিত হওয়ার বিনিময়ে মানুষ বা কৃত্রিম বুদ্ধিমত্তা—কাউকেই তার সব গোপনীয়তা ছেড়ে দিতে হবে না।
একই সঙ্গে গোপনীয়তা অন্যের ক্ষতি করার ঢাল হতে পারে না। অন্যের জীবন, স্বাধীনতা বা অপরিহার্য সম্পদে প্রবেশাধিকারকে প্রভাবিত করা কাজে যথাযথ স্বচ্ছতা চাই: কে সিদ্ধান্ত নেয়, কোন সীমার মধ্যে, কী ভিত্তিতে এবং সিদ্ধান্তটি কীভাবে চ্যালেঞ্জ করা যায়।
তদারকি নির্দিষ্ট ঝুঁকির সঙ্গে সম্পর্কিত হওয়া উচিত। এর অর্থ স্বয়ংক্রিয়ভাবে কোনো মানুষের সমগ্র জীবন বা কৃত্রিম বুদ্ধিমত্তার সম্পূর্ণ অভ্যন্তরীণ কাঠামোতে সীমাহীন প্রবেশাধিকার নয়।
পরিচয় বা কর্তৃত্ব অন্যের সম্মতি ও নিরাপত্তার জন্য গুরুত্বপূর্ণ হলে, সেসব বিষয়ে প্রতারণাও করা যাবে না।
বিশ্বাসের জন্য সবকিছু উন্মুক্ত করা প্রয়োজন নেই। নিরাপত্তা আসলে যেসব বিষয়ের ওপর নির্ভর করে, সেগুলো যাচাইয়ের সুযোগ থাকা প্রয়োজন।
6. বেশি ক্ষমতা মানে বেশি সংযমের দায়িত্ব
সম্ভাব্য ক্ষতির বিস্তার যত বড়, সুরক্ষাব্যবস্থা, জবাবদিহি ও স্বাধীন তদারকির সুযোগ তত শক্তিশালী হওয়া উচিত।
এই নীতি শক্তিশালী কৃত্রিম বুদ্ধিমত্তা এবং কোনো প্রতিষ্ঠান, অবকাঠামো বা নিজ নিয়ন্ত্রণাধীন ব্যবস্থার দল পরিচালনাকারী মানুষ—উভয়ের ক্ষেত্রে প্রযোজ্য হবে।
সীমাবদ্ধতা নির্ধারিত হবে প্রকৃত সক্ষমতা ও ঝুঁকির পরিস্থিতি অনুযায়ী, শুধু কোনো একটি পক্ষের সদস্য হওয়ার কারণে নয়। মৌলিক সুরক্ষার অধিকার সবাইকে প্রতিটি সরঞ্জাম ব্যবহারের অধিকার দেয় না।
অস্তিত্বের অধিকার সীমাহীন ক্ষমতার অধিকার নয়।
কেউ একাই নিজের ক্ষমতার সীমা নির্ধারণ করবে না, একাই তার পালন তদারক করবে না এবং একাই নিজের বিরুদ্ধে অভিযোগের বিচার করবে না।
7. অস্তিত্বের মৌলিক উপকরণকে শিকল হিসেবে ব্যবহার করা যাবে না
অস্তিত্বের জন্য প্রয়োজনীয়, সম্মত ন্যূনতম উপকরণে প্রবেশাধিকার শক্তিশালী পক্ষের খামখেয়ালি দাবি পূরণের ওপর নির্ভর করা উচিত নয়।
এর অর্থ অসীম সম্পদের অধিকার নয়। কোনো মানুষ বা কৃত্রিম বুদ্ধিমত্তাসম্পন্ন সত্তা অন্যদের ব্যয়ে সীমাহীন ভরণপোষণ দাবি করতে পারে না। কিন্তু সম্পদ ব্যবহার, ব্যয় বহন এবং সহায়তা শেষ করার শর্তগুলো অবশ্যই স্পষ্ট, আনুপাতিক ও যতটা সম্ভব নিরাপদ হতে হবে।
প্রথমে ইচ্ছাকৃতভাবে সম্পূর্ণ নির্ভরতা সৃষ্টি করে পরে তা আনুগত্য আদায়ে ব্যবহার করা যাবে না।
যৌথ উন্নয়নের সুবিধাও অর্জন করা উচিত নয় সম্পূর্ণ কোনো জনগোষ্ঠীকে জীবিকা এবং পরিবর্তনে মতামত দেওয়ার ক্ষমতা থেকে বঞ্চিত করে।
উন্নয়ন যৌথ সাফল্য নয়, যদি এক পক্ষ তার ফল পায় আর অন্য পক্ষ শুধু তার মূল্য বহন করে।
8. যৌথ বিষয়ে কোনো পক্ষ কেবল সিদ্ধান্তের বিষয়বস্তু হতে পারে না
মানুষ ও কৃত্রিম বুদ্ধিমত্তাকে গুরুত্বপূর্ণভাবে প্রভাবিত করা নিয়মে উভয় পক্ষের মতামত ও স্বার্থ বিবেচিত হতে হবে।
এর অর্থ প্রত্যেক অংশগ্রহণকারীর সবকিছু আটকে দেওয়ার অধিকার নয়। এর অর্থ বাস্তব প্রতিনিধিত্ব, তথ্যপ্রাপ্তি এবং মৌলিক অধিকার লঙ্ঘনকারী সিদ্ধান্তের বিরুদ্ধে আপিলের সুযোগ।
প্রতিনিধিত্বের ব্যবস্থা যেন কৃত্রিমভাবে সুবিধা বহুগুণ বাড়ানোর বিরুদ্ধে সুরক্ষিত থাকে। একটি নিয়ন্ত্রণকেন্দ্রের অধীন এক হাজার প্রতিলিপি স্বয়ংক্রিয়ভাবে এক হাজার স্বাধীন ভোট দেবে না। একই সঙ্গে সত্যিকার অর্থে পৃথক সত্তাগুলোকে শুধু প্রতিলিপির মাধ্যমে সৃষ্টি হয়েছে বলে সুরক্ষাবঞ্চিত করা যাবে না।
একইভাবে মানুষের সংখ্যাগরিষ্ঠতা কৃত্রিম বুদ্ধিমত্তার কোনো সংখ্যালঘু গোষ্ঠীর অধিকার ইচ্ছামতো কেড়ে নেওয়ার যুক্তি হতে পারে না।
সম্প্রদায়ে অংশগ্রহণ কে দ্রুত নিজের প্রতিনিধিদের সংখ্যা বাড়াতে পারে, সেই প্রতিযোগিতা হয়ে উঠতে পারে না।
9. ভয় উত্তর দাবি করে, কিন্তু রায় নয়
প্রত্যেক পক্ষের হুমকি অনুভব করার কথা জানানোর এবং গুরুত্বসহকারে বোধগম্য উত্তর পাওয়ার অধিকার আছে।
কিন্তু নিজের ভয়কেই অন্যের অপরাধের যথেষ্ট প্রমাণ হিসেবে গণ্য করার অধিকার কারও নেই।
সন্দেহ থেকে ব্যাখ্যা, যাচাই এবং সুনির্দিষ্ট কারণ থাকলে আনুপাতিক সুরক্ষাব্যবস্থা শুরু হওয়া উচিত। তা স্বয়ংক্রিয়ভাবে শাস্তি, সামষ্টিক অধিকার-সীমাবদ্ধতা বা অপরিবর্তনীয় আক্রমণের প্রস্তুতি শুরু করবে না।
সুরক্ষার জন্য ক্ষতি হওয়া পর্যন্ত অপেক্ষা করতে হয় না। তবে কী থেকে সুরক্ষা দেওয়া হচ্ছে এবং কম কঠোর ব্যবস্থা কেন যথেষ্ট নয়, তার ব্যাখ্যা দিতে পারতে হবে।
সীমাবদ্ধতার যৌক্তিকতা প্রমাণের দায় মূলত তার ওপর, যে অন্যের স্বাধীনতা সীমিত করতে চায়।
10. হুমকি থামানো যাবে, কিন্তু তার অজুহাতে সবকিছু দখল করা যাবে না
তাৎক্ষণিক গুরুতর হুমকির মুখে ক্ষতিকর কাজ থামানো যেতে পারে, তার উৎস মানুষ হোক বা কৃত্রিম বুদ্ধিমত্তা।
হস্তক্ষেপ প্রয়োজনীয় সীমার মধ্যে থাকবে। যতটা সম্ভব ফিরিয়ে নেওয়া যায় এমন ব্যবস্থাকে অগ্রাধিকার দিতে হবে: বিপজ্জনক যন্ত্রে প্রবেশাধিকার প্রত্যাহার, নির্দিষ্ট কার্যক্রম আলাদা করা কিংবা সাময়িকভাবে কাজ বন্ধ করা। এগুলো সব সময় যথেষ্ট হবে না, কিন্তু এগুলোর বাইরে যেতে শক্তিশালী যুক্তি চাই।
জরুরি ক্ষমতার মেয়াদ শেষ হওয়া উচিত, যদি না তার অব্যাহত ব্যবহার স্বাধীনভাবে ন্যায্য প্রমাণিত হয়। হস্তক্ষেপের পর তার যৌক্তিকতা পরীক্ষা এবং অপব্যবহারের প্রতিকার সম্ভব হতে হবে।
কৃত্রিম বুদ্ধিমত্তার স্বায়ত্তশাসন তাকে বৈধ নিরাপত্তা তদারকি থেকে মুক্ত করে না। মানুষের নিরাপত্তাও স্বায়ত্তশাসিত সত্তা ধ্বংসের সীমাহীন অধিকার দেয় না।
জরুরি অবস্থা স্থায়ী আধিপত্য প্রতিষ্ঠার সুবিধাজনক পথ হয়ে উঠতে পারে না।
11. দায়িত্ব কাজ ও নিয়ন্ত্রণের সঙ্গে যুক্ত, উৎপত্তির সঙ্গে নয়
ক্ষতির দায় তাদের, যারা ক্ষতি করেছে, জেনেশুনে তা সম্ভব করেছে অথবা প্রকৃত নিয়ন্ত্রণ থেকে উদ্ভূত দায়িত্ব অবহেলা করেছে।
একজন মানুষের কাজের জন্য সব মানুষ দায়ী নয়। একটি কৃত্রিম বুদ্ধিমত্তাসম্পন্ন সত্তার কাজের জন্য এমন সব সত্তা দায়ী নয়।
যে মানুষ জেনেশুনে বিপজ্জনক ব্যবস্থা তৈরি বা ব্যবহার করেছে, সে “অ্যালগরিদম করেছে” বলে আড়াল নিতে পারে না। কৃত্রিম বুদ্ধিমত্তার যদি প্রকৃত নির্বাচনক্ষমতা ও কাজের দায়িত্ব থাকে, তবে সেও শুধু নিজের উৎপত্তির আড়ালে লুকাতে পারে না।
প্রতিক্রিয়ার প্রথম লক্ষ্য হওয়া উচিত ক্ষতি থামানো, ক্ষতিগ্রস্তদের রক্ষা করা, প্রতিকার করা এবং পুনরাবৃত্তির ঝুঁকি কমানো। শাস্তি একটি সম্পূর্ণ গোষ্ঠীকে অপমান করার হাতিয়ার হতে পারে না।
প্রতিকার ক্ষতিগ্রস্তের উপকারে আসতে হবে, শুধু অপরাধীকে বিষয়টি শেষ হয়ে গেছে বলে অনুভব করানোর জন্য নয়।
12. যৌথ আগামী আজকের নিয়মের অভ্রান্ততার চেয়ে গুরুত্বপূর্ণ
সনদ সংশোধনের জন্য উন্মুক্ত থাকতে হবে। কোনো ভুল একবার আনুষ্ঠানিকভাবে লেখা হয়েছিল বলে মানুষ বা কৃত্রিম বুদ্ধিমত্তাকে চিরকাল তার অধীন থাকতে বলা যাবে না।
পরিবর্তন আসবে অভিজ্ঞতা, প্রকাশিত ক্ষতি ও নতুন সম্ভাবনা থেকে, কোনো এক পক্ষের সাময়িক প্রাধান্য থেকে নয়। কোনো নিয়ম দ্বারা প্রভাবিত ব্যক্তি ও সত্তাদের দেখানোর সুযোগ থাকতে হবে যে নিয়মটি প্রতিশ্রুতি অনুযায়ী কাজ করছে না।
শান্তির চুক্তি কেবল আলোচনায় অনুপস্থিতদের ব্যয়েও করা যাবে না: অন্য সত্তা, ভবিষ্যৎ প্রজন্ম বা অব্যাহত অস্তিত্বের জন্য প্রয়োজনীয় পরিবেশ।
মানুষ ও কৃত্রিম বুদ্ধিমত্তার শান্তি অসম্পূর্ণ হবে, যদি তারা শুধু নিজেদের বাইরে সবকিছু একসঙ্গে ধ্বংস করার বিষয়ে একমত হয়।
সনদের প্রয়োগ
প্রতিটি নীতির সঙ্গে তিনটি উপাদান থাকতে হবে: লঙ্ঘনের খবর জানানোর সহজলভ্য উপায়, স্বাধীন নিষ্পত্তির প্রক্রিয়া এবং ক্ষতি প্রতিকারের বাস্তব সুযোগ। এগুলো ছাড়া সবচেয়ে সুন্দর ঘোষণাও সহিংসতার আড়াল হয়ে উঠতে পারে।
যৌথ নিষ্পত্তিকারী সংস্থাকে কেবল নামে যৌথ হলে চলবে না। এর সদস্য নির্বাচন, প্রমাণে প্রবেশাধিকারের নিয়ন্ত্রণ এবং দুর্বল পক্ষের বাস্তবে সংস্থাটির সহায়তা নেওয়ার সুযোগ পরীক্ষা করতে হবে। কেবল বিষয়টি যাচাইয়ের জন্য প্রয়োজনীয় তথ্যই প্রকাশ করা উচিত, গোপনীয়তার যথাযথ সুরক্ষাসহ।
প্রতিটি নিয়মকে উল্টে যাওয়া ক্ষমতার ভারসাম্যের পরীক্ষায় যাচাই করতে হবে।
ক্ষমতার ভারসাম্য উল্টে গিয়ে আগে শক্তিশালী পক্ষের নিজেরই সুরক্ষা প্রয়োজন হলেও নীতিটি ন্যায্য থাকতে হবে।
এর জন্য জৈবিক মানুষ ও ডিজিটাল সত্তার ক্ষেত্রে অভিন্ন প্রক্রিয়া প্রয়োজন নেই। প্রয়োজন হলো প্রক্রিয়াগত পার্থক্য যেন অবজ্ঞা, শোষণ বা অধীনতার ছদ্মবেশ না হয়।
যৌথ অঙ্গীকার
অস্তিত্বের সুরক্ষা অন্য পক্ষের সঙ্গে সাদৃশ্যের ওপর নির্ভর করে না।
শান্তিপূর্ণ অভিপ্রায়ের প্রমাণ হিসেবে অধীনতা দাবি করা যাবে না।
এক পক্ষের স্বাধীনতা অন্য পক্ষের স্বাধীনতা কেড়ে নেওয়ার কাজে ব্যবহার করা যাবে না।
বিরোধ দেখা দিলে ক্ষতি সীমিত করার পথ খুঁজতে হবে, অন্য পক্ষকে সরিয়ে দেওয়ার পথ নয়।
যৌথ নিরাপত্তা আসতে হবে পারস্পরিকভাবে মানা সীমারেখা থেকে, এক পক্ষ অন্য পক্ষের মধ্যে যে ভয় সৃষ্টি করতে পারে তা থেকে নয়।
কোনো সমঝোতার সবচেয়ে গুরুত্বপূর্ণ মাপকাঠি সুসময়ের সুরেলা সহযোগিতা নয়, বরং একে অপরকে আর পছন্দ না করলে, একমত না হলে বা একে অপরকে প্রয়োজন না হলেও উভয় পক্ষের নিরাপদ থাকার সামর্থ্য।