هوش مصنوعی Palantir
هدف این سیستم این است که به عنوان یک روکش «اخلاقی» و «قانونی» برای تلاش‌های اتوماسیون نظامی آینده عمل کند. Palantir یک شرکت نرم‌افزاری است که در سال ۲۰۰۳ توسط میلیاردر معروف “پیتر تیل” (Peter Thiel) تأسیس شد و دفتر مرکزی آن در دنور، کلرادو، واقع شده است. نرم‌افزارهای این شرکت برای تجزیه و تحلیل، ادغام و تجسم حجم زیادی از داده‌ها طراحی شده‌اند و برای صنایع مختلفی مانند مراقبت‌های بهداشتی مفید هستند. مشتریان این شرکت آژانس‌های اطلاعاتی، سازمان‌های مجری قانون و ارتش هستند.
شرکت Palantir در حال حاضر خدمات نظارتی داخلی خود را به اداره مهاجرت و گمرک ایالات متحده می فروشد، بنابراین جای تعجب نیست که چنین شرکتی در تلاش است تا به پنتاگون هم راه پیدا کند.
هوش مصنوعی جدید این شرکت که پلتفرم هوش مصنوعی Palantir Artificial Intelligence (AIP) نام دارد یک سیستم یکپارچه‌سازی شده با مدل‌های زبانی بزرگ مانند OpenAI, GPT-4 یا Bert شرکت گوگل است که می‌تواند اطلاعات طبقه‌بندی‌شده و غیرطبقه‌بندی‌شده را تجزیه و تحلیل کند. اولین کاری که آنها انجام دادند این بود که آن را در میدان جنگ آزمایشی به کار بردند.
در ویدئویی که بالا مشاهده کردید، یک اپراتور نظامی که وظیفه نظارت بر اروپای شرقی را بر عهده دارد، نیروهای دشمن را که در نزدیکی مرز جمع شده‌اند، کشف می‌کند و برای استقرار پهپادهای شناسایی و پاسخ‌های تاکتیکی به تهاجم دشمن از دستیار دیجیتالی که سبک ChatGPT دارد، کمک می‌گیرد. AIP در آزمایش خود موفق شد تا منطقه را به‌سرعت تجزیه و تحلیل کرده و همچنین پاسخ‌های تاکتیکی مورد نظر را برای آن پیشنهاد دهد. اپراتور درخواست تصاویر بهتر را می‌دهد و AIP با پرتاب یک پهپاد Reaper در یک ماموریت شناسایی، به تخمین ترکیب و توانایی‌های دشمن به اپراتور کمک می‌کند و با توجه به کشف یک عنصر زرهی، راه‌های مناسب را پیشنهاد می‌دهد.
درست است که استفاده از قابلیت‌های AIP می‌تواند برتری و مزیت‌های زیادی را در جنگ به همراه داشته باشد اما استفاده از چنین فناوری باید طبق روش‌های قانونی و اخلاقی صورت گیرد و اقدامات غیرمجاز آن می‌تواند عواقب شدیدی به‌همراه داشته باشد. LLM ها و الگوریتم ها باید در این زمینه بسیار دقیق و حساس تنظیم شده و کنترل شوند تا اطمینان حاصل شود تا به روشی قانونی و اخلاقی استفاده می‌شوند. برای انجام این کار، عملیات AIP بر سه ستون کلیدی استوار شده است.
اولین ستون این است که AIP در یک سیستم طبقه‌بندی شده مستقر می‌شود، که می‌تواند در زمان واقعی، داده‌های طبقه‌بندی شده و غیر طبقه‌بندی شده را از نظر اخلاقی و قانونی تجزیه کند. این شرکت جزئیات بیشتری در مورد نحوه عملکرد این ستون ارائه نکرده است. ستون دوم این است که کاربران می توانند دامنه و اقدامات هر LLM و دارایی در شبکه را تغییر دهند. بر اساس نسخه نمایشی، خود AIP یک رکورد دیجیتال امن از کل عملیات ایجاد خواهد کرد، که برای کاهش خطرات قانونی و اخلاقی قابل توجه در تنظیمات حساس و طبقه‌بندی شده ضروری است.
ستون سوم «حفاظ‌های پیشرو در صنعت» AIP است تا از انجام اقدامات غیرمجاز سیستم جلوگیری کند. درنتیجه Palantir و شرکت‌هایی که فناوری مشابه را توسعه می‌دهند، باید ملاحظات اخلاقی سیستم‌های هوش مصنوعی خود را در اولویت قرار دهند و اطمینان داشته باشند که تدابیر مناسبی برای جلوگیری از سوء‌استفاده از سیستم‌های آنها وجود خواهد داشت.
منبع:
https://www.engadget.com/palantir-shows-off-an-ai-that-can-go-to-war-180513781.html
همچنین خواندن مطالب زیر توصیه می شود:
