Anthropic публикува рамка как институциите да се готвят за напредъка на AI - прозрачност, независима оценка, сигурност на разработката и право да се блокират опасни внедрявания.
- Anthropic публикува 'Policy on the AI Exponential': рамка как институциите да се готвят за напредъка на AI (10 юни).
- Целта са frontier модели над 10^25 FLOPs от компании с над $500M AI приходи или $1B AI разходи.
- Четирите искания: прозрачност, независима оценка, сигурност на разработката и право на държавата да блокира опасни внедрявания.
Институциите да се подготвят, не да гонят опашката на прогреса. Това е целта зад 'Policy on the AI Exponential' - есето на изпълнителния директор на Anthropic Дарио Амодей, придружено от две рамки: за напреднал AI и за икономическа политика.
Документът адресира катастрофични рискове - от биооръжия и уязвимости в критична инфраструктура до загуба на контрол над AI и автоматизиране на самата AI развойна дейност. Икономическата рамка гледа към работните места и към това ползите да стигат до повече хора, не само до малцина.
Звучи добре. Но не го чета като реклама на една компания - чета го като симптом. Когато водещ играч сам предлага рамка за това кога моделите да бъдат спирани, цялата индустрия вече знае накъде отива - и предпочита да държи писалката, вместо просто да получи готовите правила. Реши сам доколко му вярваш.
Това е предложение от индустриален играч, не приета регулация - позиция, не действащо право.