مغز دیجیتال

هر گره، برای کسانی که با ماوس کار نمی‌کنند

• حاکمیت هوش مصنوعی: اینکه یک سیستم چگونه حق مورد اعتماد بودن را به دست می‌آورد، نه فقط حق استفاده شدن را.
• یادگیری ماشین: مهارتی که پشت ادعاها نهفته است. می‌خواهم بدانم یک مدل واقعا چه کرده، نه اینکه چه می‌گوید انجام داده است.
• مقررات: قوانین فقط به اندازه شواهدی ارزش دارند که یک نهاد نظارتی بتواند مستقلا آن‌ها را بررسی کند.
• رهبری: ساختن شرکتی حول یک شرط‌بندی فنی دشوار، و صادق ماندن درباره اینکه چه چیزی اثبات شده و چه چیزی هنوز نشده.

• خروجی‌های قابل‌راستی‌آزمایی هوش مصنوعی: اینکه چه چیزی لازم است تا هر خروجی، اثبات خودش را از نحوه تولید شدنش همراه داشته باشد.
• کاهش توهم در مدل‌های زبانی بزرگ: کمتر یک باگ برای رفع کردن و بیشتر ویژگی‌ای که باید هر بار صادقانه اندازه‌گیری شود.
• ابزارهای انطباق با قانون هوش مصنوعی اتحادیه اروپا: تبدیل یک مهلت قانونی به چیزی که یک تیم کوچک واقعا بتواند بسازد.
• آینده هوش مصنوعی عامل‌محور: سیستم‌هایی که خودشان دست به عمل می‌زنند، حتی بیشتر از سیستم‌هایی که فقط پاسخ می‌دهند، به ردیابی حسابرسی نیاز دارند.

• The Alignment Problem: برایان کریستین. جایی که داستان یادگیری ماشین و داستان اخلاق دیگر دو کتاب جدا نیستند.
• Human Compatible: استوارت راسل. استدلالی برای ساختن سیستم‌هایی که عمدا درباره خواسته ما نامطمئن باقی می‌مانند.
• AI 2041: کای-فو لی. ده سناریوی آینده نزدیک، دقیقا به این دلیل مفید که بیشترشان از هم‌اکنون در حال رخ دادن‌اند.

• نقل‌قول محوری: آینده متعلق به کسانی است که می‌فهمند اعتماد به هوش مصنوعی باید ساخته شود، نه فرض گرفته شود.