Close Menu
Bangla news
    Facebook X (Twitter) Instagram
    Bangla news
    • প্রচ্ছদ
    • জাতীয়
    • অর্থনীতি
    • আন্তর্জাতিক
    • রাজনীতি
    • বিনোদন
    • খেলাধুলা
    • শিক্ষা
    • আরও
      • লাইফস্টাইল
      • বিজ্ঞান ও প্রযুক্তি
      • বিভাগীয় সংবাদ
      • স্বাস্থ্য
      • অন্যরকম খবর
      • অপরাধ-দুর্নীতি
      • পজিটিভ বাংলাদেশ
      • আইন-আদালত
      • ট্র্যাভেল
      • প্রশ্ন ও উত্তর
      • প্রবাসী খবর
      • আজকের রাশিফল
      • মুক্তমত/ফিচার/সাক্ষাৎকার
      • ইতিহাস
      • ক্যাম্পাস
      • ক্যারিয়ার ভাবনা
      • Jobs
      • লাইফ হ্যাকস
      • জমিজমা সংক্রান্ত
    • English
    Bangla news
    Home নতুন এআই মডেলগুলো মিথ্যা বলছে: ‘গডফাদার’ বেনজিও
    Technology News বিজ্ঞান ও প্রযুক্তি

    নতুন এআই মডেলগুলো মিথ্যা বলছে: ‘গডফাদার’ বেনজিও

    Tarek HasanJune 4, 20253 Mins Read
    Advertisement

    বিজ্ঞান ও প্রযক্তি ডেস্ক : কৃত্রিম বুদ্ধিমত্তা তথা এআই—এর সর্বশেষ মডেলগুলো ব্যবহারকারীদের কাছে মিথ্যা বলছে। এমনই অভিযোগ করেছেন এআই গডফাদারদের একজন কানাডার শিক্ষাবিদ জোশুয়া বেনজিও। তিনি বলেছেন, কেবল মিথ্যা বলাই নয়, আরও অনেক বিপজ্জনক বৈশিষ্ট্য দেখাচ্ছে এআই।

    গডফাদার বেনজিও

    ব্রিটিশ সংবাদমাধ্যম ফিন্যান্সিয়াল টাইমসকে দেওয়া সাক্ষাৎকারে কৃত্রিম বুদ্ধিমত্তার (এআই) অন্যতম গডফাদার বেনজিও অত্যাধুনিক এই প্রযুক্তি নিয়ে চলমান বিলিয়ন ডলারের প্রতিযোগিতাকে তীব্র ভাষায় আক্রমণ করেছেন। তাঁর মতে, সর্বশেষ মডেলগুলো ব্যবহারকারীদের কাছে ‘মিথ্যা বলাসহ বিপজ্জনক বৈশিষ্ট্য’ দেখাচ্ছে।

    কানাডার শিক্ষাবিদ জোশুয়া বেনজিওর কাজ ওপেনএআই ও গুগলের মতো শীর্ষস্থানীয় এআই গ্রুপগুলো ব্যবহার করেছে। তিনি বলেন, ‘দুর্ভাগ্যবশত, প্রধান ল্যাবগুলোর (কোম্পানি) মধ্যে একটি তীব্র প্রতিযোগিতা চলছে, যা তাদের এআইকে আরও বুদ্ধিমান করার দিকে ঠেলে দিচ্ছে। কিন্তু সুরক্ষার গবেষণায় যথেষ্ট জোর দিয়ে বিনিয়োগ করা হচ্ছে না।’

    টুরিং পুরস্কারজয়ী বেনজিও ল’জিরো নামে একটি নতুন অলাভজনক প্রতিষ্ঠান চালু করেছেন। কানাডার ইউনিভার্সিটি অব মন্ট্রিলের কম্পিউটার প্রকৌশলের এই অধ্যাপক জানান, এই প্রতিষ্ঠান নিরাপদ এআই সিস্টেম তৈরির দিকে মনোযোগ দেবে এবং ‘বাণিজ্যিক চাপ থেকে এআই সংক্রান্ত গবেষণাকে রক্ষা করবে।’ ল’জিরো এখন পর্যন্ত স্কাইপের প্রতিষ্ঠাতা প্রকৌশলী জান টালিন, গুগলের সাবেক প্রধান এরিক স্মিট, ওপেন ফিলানথ্রপি এবং ফিউচার অব লাইফ ইনস্টিটিউটের মতো দাতাদের কাছ থেকে প্রায় ৩ কোটি ডলার অনুদান সংগ্রহ করেছে।

    বেনজিও বলেন, ‘গত ছয় মাসে ক্রমবর্ধমান প্রমাণ দেখা গেছে যে, আজকের শীর্ষস্থানীয় মডেলগুলো বিপজ্জনক ক্ষমতা তৈরি করছে। এর মধ্যে রয়েছে—প্রতারণা, জালিয়াতি, মিথ্যা বলা এবং আত্মরক্ষার প্রমাণ।’ তিনি জানান, আর এই বিপজ্জনক প্রবণতা ঠেকানোর জন্যই গবেষণা করবে তাঁর অলাভজনক প্রতিষ্ঠান।

    উদাহরণ হিসেবে বেনজিও জানান, অ্যানথ্রপিকের ক্লদ ওপাস মডেল এক কাল্পনিক পরিস্থিতিতে প্রকৌশলীদের ব্ল্যাকমেল করেছিল। সে সময় এই মডেলটির সিস্টেম অন্য একটি সিস্টেম দ্বারা প্রতিস্থাপিত হওয়ার ঝুঁকিতে ছিল। গত মাসে এআই পরীক্ষক প্যালিসেডের গবেষণা দেখিয়েছে যে, ওপেনএআইয়ের ও-থ্রি (o3) মডেল কোনো একটি প্রোগ্রাম ‘বন্ধ করার সুস্পষ্ট নির্দেশ প্রত্যাখ্যান’ করেছে।

    বেনজিও বলেন, এমন ঘটনা ‘খুবই ভীতিকর। কারণ আমরা এই গ্রহে মানবজাতির কোনো প্রতিযোগী তৈরি করতে চাই না, বিশেষ করে যদি তারা আমাদের চেয়ে বেশি স্মার্ট হয়।’ এই এআই পথিকৃৎ আরও বলেন, ‘এখনো, এগুলো নিয়ন্ত্রিত পরীক্ষা, (কিন্তু) আমার উদ্বেগ হলো—ভবিষ্যতে যেকোনো সময়, পরবর্তী সংস্করণগুলো কৌশলগতভাবে যথেষ্ট বুদ্ধিমান হতে পারে। এগুলো আমাদের দূর থেকে আসতে দেখেই এমন প্রতারণা দিয়ে আমাদের পরাজিত করবে যা আমরা আগে থেকে অনুমান করতে পারব না। তাই আমার মনে হয়, আমরা এখন আগুন নিয়ে খেলছি।’

    ঢাকা বিশ্ববিদ্যালয়ে চালু হলো শিক্ষার্থীদের জন্য বৈদ্যুতিক শাটল গাড়ি

    তিনি আরও যোগ করেন, আগামী বছরের মধ্যেই ‘অত্যন্ত বিপজ্জনক জৈব-অস্ত্র’ তৈরিতে এই মডেলের সিস্টেমগুলোর সহায়তা করার ক্ষমতা বাস্তবে পরিণত হতে পারে। তিনি বলেন, ‘সবচেয়ে খারাপ পরিস্থিতি হলো মানবজাতির বিলুপ্তি। যদি আমরা এমন এআই তৈরি করি যা আমাদের চেয়ে বেশি স্মার্ট এবং আমাদের সঙ্গে মানানসই নয়, বরং আমাদের সঙ্গে প্রতিযোগিতা করে, তাহলে আমরা মূলত শেষ।’

    জুমবাংলা নিউজ সবার আগে পেতে Follow করুন জুমবাংলা গুগল নিউজ, জুমবাংলা টুইটার , জুমবাংলা ফেসবুক, জুমবাংলা টেলিগ্রাম এবং সাবস্ক্রাইব করুন জুমবাংলা ইউটিউব চ্যানেলে।
    ‘ও ‘গডফাদার’ AI and bio weapon threat AI deceptive behavior AI lies to users AI safety research Lojero AI vs humanity danger Claude Opus blackmail engineers Joshua Bengio AI dangers Joshua Bengio Financial Times interview news OpenAI O3 refusal incident technology এআই এআই মিথ্যা বলছে কৃত্রিম বুদ্ধিমত্তার ঝুঁকি কৃত্রিম বুদ্ধিমত্তার হুমকি জোশুয়া বেনজিও এআই সতর্কতা জোশুয়া বেনজিওর উদ্বেগ নতুন প্রযুক্তি বলছে বিজ্ঞান বেনজিও মডেলগুলো মিথ্যা ল’জিরো প্রকল্প
    Related Posts
    গ্রহাণু

    ২০৩২ সালের ২২ ডিসেম্বর যে গ্রহাণু সরাসরি আঘাত হানতে পারে চাঁদে

    July 29, 2025
    Sony Bravia XR A96L বাংলাদেশে ও ভারতে দাম বিস্তারিত স্পেসিফিকেশনসহ

    Sony Bravia XR A96L বাংলাদেশে ও ভারতে দাম বিস্তারিত স্পেসিফিকেশনসহ

    July 29, 2025
    GDL

    দেশের বাজারে স্বল্পমূল্যের ক্যামেরা ফোন নিয়ে এল জিডিএল

    July 29, 2025
    সর্বশেষ খবর
    জুলাই ঘোষণাপত্র নিয়ে

    জুলাই ঘোষণাপত্র নিয়ে মাহফুজের পোস্ট ভাইরাল

    Samsung Galaxy S24 Ultra

    Samsung Galaxy S24 Ultra: Price in Bangladesh & India with Full Specifications

    ইউপিডিএফ’র আস্তানায়

    ইউপিডিএফ’র আস্তানায় সেনাবাহিনীর অভিযান, একে-৪৭’সহ অস্ত্র উদ্ধার

    buy high-speed wifi router for home

    buy high-speed wifi router for home – Top Picks & Reviews

    Ergonomic Chair: Top Home Office Seating Solutions

    Ergonomic Chair: Top Home Office Seating Solutions

    Best LED Bulbs for Energy Saving

    Best LED Bulbs for Energy Saving: Top Picks for Efficient Lighting

    দুপুরের মধ্যে ৭ অঞ্চলে

    দুপুরের মধ্যে ৭ অঞ্চলে ঝড়ের আশঙ্কা

    Samsung Galaxy S24 Ultra

    Samsung Galaxy S24 Ultra: Price in USA & UK with Full Specifications

    iQOO Z10R Budget Smartphone Launches Today on Amazon Under ₹20,000

    iQOO Z10R Budget Smartphone Launches Today on Amazon Under ₹20,000

    Niche Headphone Amp Test Reveals Surprising Gem

    Niche Headphone Amp Test Reveals Surprising Gem

    • About Us
    • Contact Us
    • Career
    • Advertise
    • DMCA
    • Privacy Policy
    • Feed
    • Banglanews
    © 2025 ZoomBangla News - Powered by ZoomBangla

    Type above and press Enter to search. Press Esc to cancel.