ওপেনএআই ভয়েস ক্লোনিং টুল ডেবিউট করে, কিন্তু এটাকে জনসাধারণের মুক্তির জন্য খুব ঝুঁকিপূর্ণ মনে করে

ওপেনএআই ভয়েস ক্লোনিং টুল ডেবিউট করে, কিন্তু এটাকে জনসাধারণের মুক্তির জন্য খুব ঝুঁকিপূর্ণ মনে করে
Rate this post

ChatGPT নির্মাতা বলেছেন ভয়েস ইঞ্জিন 15-সেকেন্ডের অডিও নমুনার উপর ভিত্তি করে একজন ব্যক্তির ভয়েস প্রতিলিপি করতে পারে।

OpenAI জনগণের কণ্ঠস্বর ক্লোন করার জন্য একটি টুল উন্মোচন করেছে কিন্তু একটি গুরুত্বপূর্ণ নির্বাচনী বছরে সম্ভাব্য অপব্যবহারের বিষয়ে উদ্বেগের কারণে তার প্রকাশ্য প্রকাশ বন্ধ করে দিচ্ছে।

একটি ওপেনএআই ব্লগ পোস্ট অনুসারে, 15-সেকেন্ডের অডিও নমুনার উপর ভিত্তি করে ভয়েস ইঞ্জিন একজন ব্যক্তির ভয়েস প্রতিলিপি করতে পারে।

তবে চ্যাটজিপিটি নির্মাতা প্রযুক্তির প্রতি “সতর্ক এবং অবহিত দৃষ্টিভঙ্গি নিচ্ছেন” এবং “সিন্থেটিক ভয়েসের দায়িত্বশীল স্থাপনার” বিষয়ে একটি সংলাপ শুরু করার আশা করছেন, শুক্রবার প্রকাশিত ব্লগ পোস্টে সংস্থাটি বলেছে।

সান ফ্রান্সিসকো-ভিত্তিক স্টার্ট-আপ বলেছে, “আমরা স্বীকার করি যে জনগণের কণ্ঠস্বরের সাথে সাদৃশ্যপূর্ণ বক্তৃতা তৈরিতে গুরুতর ঝুঁকি রয়েছে, যা বিশেষ করে একটি নির্বাচনী বছরে মনের শীর্ষে থাকে।”

“আমরা সরকার, মিডিয়া, বিনোদন, শিক্ষা, সুশীল সমাজ এবং এর বাইরেও মার্কিন যুক্তরাষ্ট্র এবং আন্তর্জাতিক অংশীদারদের সাথে জড়িত আছি যাতে আমরা নির্মাণের সাথে সাথে তাদের প্রতিক্রিয়া অন্তর্ভুক্ত করছি।”

ওপেনএআই বলেছে যে এটি পরীক্ষা এবং জনসাধারণের বিতর্কের উপর ভিত্তি করে প্রযুক্তিটি মোতায়েন করার বিষয়ে “আরো জ্ঞাত সিদ্ধান্ত” নেবে।

সংস্থাটি যোগ করেছে যে এটি বিশ্বাস করে যে প্রযুক্তিটি কেবলমাত্র এমন ব্যবস্থাগুলির সাথে চালু করা উচিত যা নিশ্চিত করে যে “আসল স্পিকার জেনেশুনে তাদের ভয়েস পরিষেবাতে যুক্ত করছে” এবং “বিশিষ্ট ব্যক্তিত্বের সাথে খুব সাদৃশ্যপূর্ণ কণ্ঠস্বর তৈরি করা” প্রতিরোধ করে।

বিশ্বের প্রায় অর্ধেক জনসংখ্যার প্রতিনিধিত্বকারী দেশগুলিতে এই বছরের নির্বাচনের আগে AI-এর অপব্যবহার একটি প্রধান উদ্বেগ হিসাবে আবির্ভূত হয়েছে৷

মেক্সিকো, দক্ষিণ আফ্রিকা এবং মার্কিন যুক্তরাষ্ট্র সহ 80 টিরও বেশি দেশের ভোটাররা 2024 সালের নির্বাচনে যাচ্ছেন, যাকে ইতিহাসের সবচেয়ে বড় নির্বাচনী বছর বলা হয়েছে।

ভোটারদের উপর AI এর প্রভাব ইতিমধ্যেই বেশ কয়েকটি নির্বাচনে যাচাই-বাছাই করা হয়েছে।

পাকিস্তানের কারাগারে বন্দী প্রাক্তন প্রধানমন্ত্রী ইমরান খান ফেব্রুয়ারিতে দেশটির সংসদ নির্বাচনের দৌড়ে সমর্থকদের কাছে আবেদন জানাতে এআই-উত্পন্ন বক্তৃতা ব্যবহার করেছিলেন।

জানুয়ারিতে, মার্কিন প্রেসিডেন্ট পদপ্রার্থী ডিন ফিলিপসের একজন রাজনৈতিক অপারেটিভ মার্কিন প্রেসিডেন্ট জো বিডেনের ছদ্মবেশী একটি রোবোকল করেছিলেন যা ভোটারদের নিউ হ্যাম্পশায়ারের ডেমোক্রেটিক পার্টির প্রাইমারিতে তাদের ব্যালট না দেওয়ার জন্য অনুরোধ করেছিল।

ওপেনএআই বলেছে যে এটি ভয়েস ইঞ্জিন পরীক্ষা করার অংশীদারদের জন্য বেশ কিছু নিরাপত্তা ব্যবস্থা বাস্তবায়ন করেছে, “ভয়েস ইঞ্জিন দ্বারা উত্পন্ন যেকোন অডিওর উৎস খুঁজে বের করার জন্য ওয়াটারমার্কিং, সেইসাথে এটি কীভাবে ব্যবহার করা হচ্ছে তার সক্রিয় পর্যবেক্ষণ সহ”।



source

Comments

No comments yet. Why don’t you start the discussion?

Leave a Reply

Your email address will not be published. Required fields are marked *