প্রত্যেকেই রিয়েল টাইমে AI নিরাপত্তা সার্ফ করছে, এমনকি Google | টেকক্রাঞ্চ

আমি সম্প্রতি লস অ্যাঞ্জেলেসের একটি ইভেন্টে মঞ্চের পিছনে Google ক্লাউডের সিওও ফ্রান্সিস ডি সুজার সাথে বসার সুযোগ পেয়েছি। আমাদের চারপাশের কোলাহলের মধ্যে, ডি সুজা, যিনি কলেজের অধ্যাপকের মতো শান্ত, পরিমাপিত ভঙ্গিতে কথা বলেন, আমরা সবাই যে এআই নিরাপত্তা মুহূর্তটিতে বাস করছি সেখানে নেভিগেট করার জন্য কোম্পানিগুলির জন্য কিছু সহায়ক উপদেশ দিয়েছেন, উল্লেখ করেছেন যে “একটি ট্রানজিশন পিরিয়ড হবে, এবং তারপরে আমি মনে করি আমরা এই আরও ভাল জায়গায় পৌঁছতে পারব।”

আমি তখন Google সম্পর্কে কথা বলছিলাম না, তবে স্পষ্টতই এমনকি Google এখনও জিনিসগুলি বের করছে।

ডি সুজার মূল বার্তাটি ছিল যে নিরাপত্তা পেশাদাররা বছরের পর বছর ধরে নির্বাহীদের অভ্যন্তরীণ করার চেষ্টা করছেন, এখন এআই দ্বারা জরুরি করা হয়েছে: নিরাপত্তা কোনও চিন্তাভাবনা হতে পারে না। “যেহেতু কোম্পানিগুলি এই AI যাত্রা শুরু করে, তাদের একটি প্ল্যাটফর্ম পদ্ধতি গ্রহণ করতে হবে,” তিনি বলেছিলেন। “নিরাপত্তা এমন কিছু নয় যা আপনি পরে বাজি ধরতে পারেন, এবং এটি এমন কিছু নয় যা আপনি কর্মীদের তাদের নিজেরাই করতে ছেড়ে দিতে পারেন।” তিনি বিশেষভাবে “শ্যাডো এআই” সম্পর্কে সতর্ক করেছিলেন – কর্মচারীরা সাংগঠনিক তদারকি ছাড়াই ব্যবহারের জন্য সরঞ্জাম খুঁজছেন – এবং যুক্তি দিয়েছিলেন যে কোম্পানিগুলিকে শুরু থেকেই তাদের প্ল্যাটফর্মগুলির নিরাপত্তা, শাসন এবং নিরীক্ষার দাবি করা উচিত। “ডেটা স্ট্র্যাটেজি এবং সিকিউরিটি স্ট্র্যাটেজি ছাড়া কোনো এআই স্ট্র্যাটেজি নেই। তাদের অবশ্যই হাতে হাত মিলিয়ে চলতে হবে।”

এটা লক্ষণীয়: আমি একা Google ক্লাউড চালু করিনি। যখন আমি লক্ষ্য করলাম যে তার পরামর্শটি একটি Google বিজ্ঞাপনের মতো শোনাচ্ছে, আমি পিছিয়ে গেলাম। গুগল, তিনি বলেন, একটি মাল্টিক্লাউড পদ্ধতির জন্য প্রতিশ্রুতিবদ্ধ, যুক্তি দিয়ে যে সংস্থাগুলি মনে করে যে তারা একক ক্লাউডে কাজ করছে তারা প্রায় নিশ্চিত নয়। “এমনকি যদি তারা একটি একক ক্লাউড বেছে নেয়, তবে তারা SaaS অ্যাপ্লিকেশনের উপর নির্ভর করে, এমন ব্যবসায়িক অংশীদার রয়েছে যারা বিভিন্ন ক্লাউড ব্যবহার করতে পারে,” তিনি বলেছিলেন। “কোম্পানিগুলির জন্য একটি সুরক্ষা ভঙ্গি থাকা গুরুত্বপূর্ণ যা মেঘ এবং মডেল জুড়ে সামঞ্জস্যপূর্ণ।”

তিনি আরও বলেন যে হুমকির ল্যান্ডস্কেপ এত মৌলিকভাবে পরিবর্তিত হয়েছে যে পুরানো প্রতিরক্ষামূলক মডেলগুলি খুব ধীর। তিনি উল্লেখ করেছেন যে একটি প্রাথমিক লঙ্ঘন এবং আক্রমণের পরবর্তী পর্যায়ে স্থানান্তরের মধ্যে গড় সময় আট ঘন্টা থেকে 22 সেকেন্ডে নেমে এসেছে এবং আক্রমণের পৃষ্ঠটি ঐতিহ্যগত নেটওয়ার্কের পরিধির বাইরে অনেক বেশি প্রসারিত হয়েছে। “আপনার স্বাভাবিক সম্পত্তি ছাড়াও, আপনার কাছে এখন মডেল রয়েছে। আপনার কাছে মডেলগুলিকে প্রশিক্ষণের জন্য ব্যবহৃত ডেটা পাইপলাইন রয়েছে। আপনার এজেন্ট আছে, আপনার দিকনির্দেশ রয়েছে। এই সবগুলিকে সুরক্ষিত করতে হবে।”

একটি হুমকি সুজা উল্লেখ করেছেন যে যথেষ্ট মনোযোগ দেওয়া হয় না: এজেন্টরা একটি কোম্পানির অভ্যন্তরীণ সিস্টেমের মাধ্যমে চলাফেরা করে এমন তথ্যের বিস্মৃত ট্রু বের করতে পারে যা বছরের পর বছর কেউ চিন্তা করেনি। “অনেক প্রতিষ্ঠানের পুরানো SharePoint সার্ভার আছে [and access controls] তারা সত্যিই আপডেট ছিল না, কিন্তু এটা কোন ব্যাপার না কারণ কেউ সত্যিই জানত না তারা কোথায় ছিল. কিন্তু আপনার এন্টারপ্রাইজে রোমিং এজেন্টরা সেই ডেটা সম্পদগুলি খুঁজে বের করবে এবং তাদের সম্পর্কে ডেটা প্রকাশ করবে।”

উত্তর, তার দৃষ্টিতে, মেশিনের গতির সাথে মেশিনের গতি খুঁজে বের করা। “এখন আমরা এআই-নেটিভ এবং সম্পূর্ণ এজেন্ট-ভিত্তিক প্রতিরক্ষার উত্থান দেখতে পাচ্ছি যেখানে সংস্থাগুলি তাদের প্রতিরক্ষা চালায় এমন এজেন্ট চালাতে পারে,” তিনি বলেছিলেন। “মানুষের নেতৃত্বে প্রতিরক্ষা বা এমনকি লুপে একজন মানুষ থাকার পরিবর্তে, আপনি এখন মানুষকে সম্পূর্ণ এজেন্ট-ভিত্তিক প্রতিরক্ষা তত্ত্বাবধান করতে পারেন।” তিনি যোগ করেছেন যে এটি কেবল একটি প্রযুক্তি নয়, নেতৃত্বের সমস্যা হয়ে দাঁড়িয়েছে। “এটি একটি বোর্ড এবং এক্সিকিউটিভ টিম স্তরের সমস্যা। এটি শুধুমাত্র একটি নিরাপত্তা দলের সমস্যা নয়।”

কিন্তু যদিও AI প্রতিরক্ষামূলক কাজের চাপ বেশি নেয়, তবুও এটির তত্ত্বাবধান করার জন্য যোগ্য লোক কম এবং এর মধ্যে অনেক কম, এবং AI নিজেই যে দুর্বলতাগুলি প্রবর্তন করছে তা নিরাপত্তা দলগুলি তাদের সমাধান করতে পারে তার চেয়ে দ্রুত বৃদ্ধি পাচ্ছে। লিঙ্কডইনের প্রধান তথ্য নিরাপত্তা কর্মকর্তা লিয়া কিসনার এই সপ্তাহে নিউইয়র্ক টাইমসকে বলেছেন, “বাগের অভাব মোকাবেলা করার জন্য আমাদের লোকেদের প্রয়োজন হবে,” যোগ করেছেন যে তিনি আশা করেন না যে শিল্পটি টেকসই দীর্ঘমেয়াদী উপায়ে অন্তত কয়েক বছর ধরে AI নিরাপত্তা বুঝতে পারবে।

যা আমাদের নিজেদের প্ল্যাটফর্ম প্রদানকারীদের কাছে ফিরিয়ে আনে। রেজিস্টার গত কয়েক সপ্তাহ ধরে প্রতিবেদনের একটি সিরিজ প্রকাশ করেছে যা নথিভুক্ত করেছে গুগল ক্লাউড ডেভেলপাররা জেমিনি মডেলগুলিতে অননুমোদিত API কল করার পরে পাঁচ অঙ্কের বিলের সাথে আঘাত করেছে, যে পরিষেবাগুলি তাদের মধ্যে অনেকেই কখনও ব্যবহার করেনি বা ইচ্ছাকৃতভাবে সক্ষম করেনি৷ কেসগুলি একটি পরিচিত প্যাটার্ন অনুসরণ করে: এপিআই কীগুলি মূলত Google মানচিত্রের জন্য মোতায়েন করা হয়েছিল, Google এর নিজস্ব নির্দেশাবলীর অধীনে সর্বজনীনভাবে স্থাপন করা হয়েছিল, পরিবর্তনটি স্পষ্টভাবে প্রকাশ না করেই Google এর পরিধি প্রসারিত করার পরে শান্তভাবে জেমিনি অ্যাক্সেস করতে সক্ষম হয়েছিল৷

ইন্টারভিউ প্রস্তুতি প্ল্যাটফর্ম প্রেন্টাসের সিইও রড ড্যানান বলেছেন যে আক্রমণকারীরা তার আপস করা API কী ব্যবহার করার পরে প্রায় 30 মিনিটের মধ্যে তার বিল $10,138 এ পৌঁছেছে। Isuru Fonseka, একজন সিডনি-ভিত্তিক ডেভেলপার যার অ্যাকাউন্ট একইভাবে আপস করা হয়েছিল, তার $250 খরচের সীমা আছে বলে বিশ্বাস করা সত্ত্বেও তিনি প্রায় A$17,000 চার্জে জেগেছিলেন। তারা যা জানত না তা হল যে Google-এর স্বয়ংক্রিয় সিস্টেমগুলি অ্যাকাউন্ট ইতিহাসের উপর ভিত্তি করে তাদের বিলিং স্তরগুলি আপডেট করেছে, তাদের কার্যকর সর্বোচ্চ সীমা $100,000 এ সুস্পষ্ট সম্মতি ছাড়াই বাড়িয়েছে৷

দ্য রেজিস্টার তার প্রাথমিক প্রতিবেদন প্রকাশ করার পরে গুগল উভয়ই ফেরত দিয়েছে। তবুও, Google দ্য রেজিস্টারকে বলেছে যে এটি স্বয়ংক্রিয়ভাবে স্তরগুলি আপডেট করার নীতি পরিবর্তন করার কোন পরিকল্পনা নেই, এটি বলে যে এটি ব্যবহারকারীদের বিবৃত বাজেট পছন্দগুলি প্রয়োগ করার উপর পরিষেবার ব্যাঘাত এড়ানোকে অগ্রাধিকার দেয়৷

এদিকে, একজন বিকাশকারী যখন জিনিসগুলি বন্ধ করার চেষ্টা করে তখন কী ঘটে তার আলাদা প্রশ্ন রয়েছে। দ্য রেজিস্টার এই সপ্তাহে নিরাপত্তা সংস্থা আইকিডোর গবেষণায় রিপোর্ট করেছে যে এমনকি ডেভেলপাররা যারা একটি আপস করা কী ক্যাপচার করে এবং অবিলম্বে মুছে ফেলতে পারে তারা নিরাপদ নয়। আইকিডোর অনুসন্ধান অনুসারে, আক্রমণকারীরা দৃশ্যত 23 মিনিট পর্যন্ত সেই কীটি ব্যবহার চালিয়ে যেতে পারে কারণ Google এর প্রত্যাহার ধীরে ধীরে এর অবকাঠামোর মাধ্যমে প্রচার করে। আইকিডো গবেষক জোসেফ লিওন দ্য রেজিস্টারকে বলেছেন যে সেই উইন্ডো চলাকালীন, সাফল্যের হার অপ্রত্যাশিত (কয়েক মিনিটের মধ্যে 90% এর বেশি অনুরোধ এখনও প্রমাণীকৃত) এবং আক্রমণকারীরা জেমিনি থেকে ক্যাশে করা ফাইল এবং চ্যাট ডেটা বের করতে সময় ব্যবহার করতে পারে।

লিওন আরও উল্লেখ করেছেন যে Google-এর নতুন শংসাপত্রের ফর্ম্যাটগুলিতে একই সমস্যা আছে বলে মনে হয় না: পরিষেবা অ্যাকাউন্ট API শংসাপত্রগুলি প্রায় পাঁচ সেকেন্ডের মধ্যে প্রত্যাহার হয়ে যায় এবং জেমিনির নতুন AQ-প্রিফিক্সড কী ফর্ম্যাটে প্রায় এক মিনিট সময় লাগে৷ “দুটিই গুগল স্কেলে কাজ করে,” তিনি আইকিডো-সম্পর্কিত নিবন্ধে লিখেছেন। “উভয়ই পরামর্শ দেয় যে এটি Google API কীগুলির জন্যও প্রযুক্তিগতভাবে স্থিরযোগ্য।” সংক্ষেপে, লিওনের মতে, 23-মিনিটের উইন্ডোটি একটি ইঞ্জিনিয়ারিং সীমাবদ্ধতা নয় তবে কোম্পানির জন্য অগ্রাধিকারের বিষয়।

ডি সুজার পরামর্শ পড়ার সময় এটি মনে রাখা উচিত, যা ভাল এবং খুব গুরুত্ব সহকারে নেওয়া উচিত। তিনি ভুল নন, তবে বর্তমানে যে প্ল্যাটফর্মগুলি নির্ধারণ করছে এবং তারা যে গতির সাথে মানিয়ে নিচ্ছে তার মধ্যে একটি ব্যবধান রয়েছে এবং সে সম্পর্কে সচেতন হওয়াও ভাল।