Close Menu
Bangla news
    Facebook X (Twitter) Instagram
    Bangla news
    • প্রচ্ছদ
    • জাতীয়
    • অর্থনীতি
    • আন্তর্জাতিক
    • রাজনীতি
    • বিনোদন
    • খেলাধুলা
    • শিক্ষা
    • আরও
      • লাইফস্টাইল
      • বিজ্ঞান ও প্রযুক্তি
      • বিভাগীয় সংবাদ
      • স্বাস্থ্য
      • অন্যরকম খবর
      • অপরাধ-দুর্নীতি
      • পজিটিভ বাংলাদেশ
      • আইন-আদালত
      • ট্র্যাভেল
      • প্রশ্ন ও উত্তর
      • প্রবাসী খবর
      • আজকের রাশিফল
      • মুক্তমত/ফিচার/সাক্ষাৎকার
      • ইতিহাস
      • ক্যাম্পাস
      • ক্যারিয়ার ভাবনা
      • Jobs
      • লাইফ হ্যাকস
      • জমিজমা সংক্রান্ত
    • English
    Bangla news
    Home নতুন এআই মডেলগুলো মিথ্যা বলছে: ‘গডফাদার’ বেনজিও
    Technology News বিজ্ঞান ও প্রযুক্তি

    নতুন এআই মডেলগুলো মিথ্যা বলছে: ‘গডফাদার’ বেনজিও

    Tarek HasanJune 4, 20253 Mins Read
    Advertisement

    বিজ্ঞান ও প্রযক্তি ডেস্ক : কৃত্রিম বুদ্ধিমত্তা তথা এআই—এর সর্বশেষ মডেলগুলো ব্যবহারকারীদের কাছে মিথ্যা বলছে। এমনই অভিযোগ করেছেন এআই গডফাদারদের একজন কানাডার শিক্ষাবিদ জোশুয়া বেনজিও। তিনি বলেছেন, কেবল মিথ্যা বলাই নয়, আরও অনেক বিপজ্জনক বৈশিষ্ট্য দেখাচ্ছে এআই।

    গডফাদার বেনজিও

    ব্রিটিশ সংবাদমাধ্যম ফিন্যান্সিয়াল টাইমসকে দেওয়া সাক্ষাৎকারে কৃত্রিম বুদ্ধিমত্তার (এআই) অন্যতম গডফাদার বেনজিও অত্যাধুনিক এই প্রযুক্তি নিয়ে চলমান বিলিয়ন ডলারের প্রতিযোগিতাকে তীব্র ভাষায় আক্রমণ করেছেন। তাঁর মতে, সর্বশেষ মডেলগুলো ব্যবহারকারীদের কাছে ‘মিথ্যা বলাসহ বিপজ্জনক বৈশিষ্ট্য’ দেখাচ্ছে।

    কানাডার শিক্ষাবিদ জোশুয়া বেনজিওর কাজ ওপেনএআই ও গুগলের মতো শীর্ষস্থানীয় এআই গ্রুপগুলো ব্যবহার করেছে। তিনি বলেন, ‘দুর্ভাগ্যবশত, প্রধান ল্যাবগুলোর (কোম্পানি) মধ্যে একটি তীব্র প্রতিযোগিতা চলছে, যা তাদের এআইকে আরও বুদ্ধিমান করার দিকে ঠেলে দিচ্ছে। কিন্তু সুরক্ষার গবেষণায় যথেষ্ট জোর দিয়ে বিনিয়োগ করা হচ্ছে না।’

    টুরিং পুরস্কারজয়ী বেনজিও ল’জিরো নামে একটি নতুন অলাভজনক প্রতিষ্ঠান চালু করেছেন। কানাডার ইউনিভার্সিটি অব মন্ট্রিলের কম্পিউটার প্রকৌশলের এই অধ্যাপক জানান, এই প্রতিষ্ঠান নিরাপদ এআই সিস্টেম তৈরির দিকে মনোযোগ দেবে এবং ‘বাণিজ্যিক চাপ থেকে এআই সংক্রান্ত গবেষণাকে রক্ষা করবে।’ ল’জিরো এখন পর্যন্ত স্কাইপের প্রতিষ্ঠাতা প্রকৌশলী জান টালিন, গুগলের সাবেক প্রধান এরিক স্মিট, ওপেন ফিলানথ্রপি এবং ফিউচার অব লাইফ ইনস্টিটিউটের মতো দাতাদের কাছ থেকে প্রায় ৩ কোটি ডলার অনুদান সংগ্রহ করেছে।

    বেনজিও বলেন, ‘গত ছয় মাসে ক্রমবর্ধমান প্রমাণ দেখা গেছে যে, আজকের শীর্ষস্থানীয় মডেলগুলো বিপজ্জনক ক্ষমতা তৈরি করছে। এর মধ্যে রয়েছে—প্রতারণা, জালিয়াতি, মিথ্যা বলা এবং আত্মরক্ষার প্রমাণ।’ তিনি জানান, আর এই বিপজ্জনক প্রবণতা ঠেকানোর জন্যই গবেষণা করবে তাঁর অলাভজনক প্রতিষ্ঠান।

    উদাহরণ হিসেবে বেনজিও জানান, অ্যানথ্রপিকের ক্লদ ওপাস মডেল এক কাল্পনিক পরিস্থিতিতে প্রকৌশলীদের ব্ল্যাকমেল করেছিল। সে সময় এই মডেলটির সিস্টেম অন্য একটি সিস্টেম দ্বারা প্রতিস্থাপিত হওয়ার ঝুঁকিতে ছিল। গত মাসে এআই পরীক্ষক প্যালিসেডের গবেষণা দেখিয়েছে যে, ওপেনএআইয়ের ও-থ্রি (o3) মডেল কোনো একটি প্রোগ্রাম ‘বন্ধ করার সুস্পষ্ট নির্দেশ প্রত্যাখ্যান’ করেছে।

    বেনজিও বলেন, এমন ঘটনা ‘খুবই ভীতিকর। কারণ আমরা এই গ্রহে মানবজাতির কোনো প্রতিযোগী তৈরি করতে চাই না, বিশেষ করে যদি তারা আমাদের চেয়ে বেশি স্মার্ট হয়।’ এই এআই পথিকৃৎ আরও বলেন, ‘এখনো, এগুলো নিয়ন্ত্রিত পরীক্ষা, (কিন্তু) আমার উদ্বেগ হলো—ভবিষ্যতে যেকোনো সময়, পরবর্তী সংস্করণগুলো কৌশলগতভাবে যথেষ্ট বুদ্ধিমান হতে পারে। এগুলো আমাদের দূর থেকে আসতে দেখেই এমন প্রতারণা দিয়ে আমাদের পরাজিত করবে যা আমরা আগে থেকে অনুমান করতে পারব না। তাই আমার মনে হয়, আমরা এখন আগুন নিয়ে খেলছি।’

    ঢাকা বিশ্ববিদ্যালয়ে চালু হলো শিক্ষার্থীদের জন্য বৈদ্যুতিক শাটল গাড়ি

    তিনি আরও যোগ করেন, আগামী বছরের মধ্যেই ‘অত্যন্ত বিপজ্জনক জৈব-অস্ত্র’ তৈরিতে এই মডেলের সিস্টেমগুলোর সহায়তা করার ক্ষমতা বাস্তবে পরিণত হতে পারে। তিনি বলেন, ‘সবচেয়ে খারাপ পরিস্থিতি হলো মানবজাতির বিলুপ্তি। যদি আমরা এমন এআই তৈরি করি যা আমাদের চেয়ে বেশি স্মার্ট এবং আমাদের সঙ্গে মানানসই নয়, বরং আমাদের সঙ্গে প্রতিযোগিতা করে, তাহলে আমরা মূলত শেষ।’

    জুমবাংলা নিউজ সবার আগে পেতে Follow করুন জুমবাংলা গুগল নিউজ, জুমবাংলা টুইটার , জুমবাংলা ফেসবুক, জুমবাংলা টেলিগ্রাম এবং সাবস্ক্রাইব করুন জুমবাংলা ইউটিউব চ্যানেলে।
    ‘ও ‘গডফাদার’ AI and bio weapon threat AI deceptive behavior AI lies to users AI safety research Lojero AI vs humanity danger Claude Opus blackmail engineers Joshua Bengio AI dangers Joshua Bengio Financial Times interview news OpenAI O3 refusal incident technology এআই এআই মিথ্যা বলছে কৃত্রিম বুদ্ধিমত্তার ঝুঁকি কৃত্রিম বুদ্ধিমত্তার হুমকি জোশুয়া বেনজিও এআই সতর্কতা জোশুয়া বেনজিওর উদ্বেগ নতুন প্রযুক্তি বলছে বিজ্ঞান বেনজিও মডেলগুলো মিথ্যা ল’জিরো প্রকল্প
    Related Posts
    iphone-15

    আইফোন ব্যবহারকারীদের জন্য সুখবর

    July 29, 2025
    গাড়ির ইঞ্জিন মেইনটেনেন্স টিপস

    গাড়ির ইঞ্জিন মেইনটেনেন্স টিপস: সহজ নির্দেশিকা

    July 29, 2025
    Google

    গুগল থেকে ইনকাম করার যত উপায়

    July 29, 2025
    সর্বশেষ খবর
    ওয়েব সিরিজ হট

    রোমান্সে পরিপূর্ণ সেরা ওয়েব সিরিজে এটি, একা দেখার জন্য সেরা!

    Madaripur

    কলেজছাত্রীর প্রেমের টানে চীনা যুবক মাদারীপুরে, করলেন বিয়ে

    iFixit Repair Solutions

    iFixit Repair Solutions: Leading the Global Right to Repair Revolution

    iphone-15

    আইফোন ব্যবহারকারীদের জন্য সুখবর

    India

    ভারতে আবিষ্কৃত এক প্রাচীন সভ্যতা নিয়ে রাজনৈতিক বিতর্ক তুঙ্গে

    How to Budget Monthly Expenses

    How to Budget Monthly Expenses: Simple Steps for Beginners

    Joie Baby Gear Innovations

    Joie Baby Gear Innovations: Leading the Child Safety Revolution

    Uk Hall

    ভারতীয় দর্শকের নোংরামি, যুক্তরাজ্যে বন্ধ হলো সিনেমার প্রদর্শনী

    Blogging for Profit

    Blogging for Profit: How to Make Money with Your Blog

    Avoid Procrastination

    Conquer Your To-Do List: How Breaking Tasks into Smaller Steps Crushes Procrastination

    • About Us
    • Contact Us
    • Career
    • Advertise
    • DMCA
    • Privacy Policy
    • Feed
    • Banglanews
    © 2025 ZoomBangla News - Powered by ZoomBangla

    Type above and press Enter to search. Press Esc to cancel.