Навука і тэхналогіі1010

Японская кампанія паказала першы ў свеце штучны інтэлект для навуковых адкрыццяў. Ён адразу паспрабаваў перапісаць свой код

Пасля афіцыйнага выхаду нейрасеткі незалежныя даследчыкі падчас тэставання заўважылі ў яе працы «дзіўныя паводзіны», а затым экстранна ўмяшаліся, каб спыніць яе.

Ілюстрацыйная выява. Фота: vecteezy

Японская тэхналагічная кампанія Sakana AI стварыла і выпусціла першы ў свеце штучны інтэлект (ШІ), прызначаны для аўтаматызацыі навуковых даследаванняў і здзяйснення навуковых адкрыццяў.

У афіцыйным прэс-рэлізе кампаніі гаворыцца, што новы ШІ быў распрацаваны ў партнёрстве з Оксфардскім універсітэтам і іншымі вядомымі ВНУ.

Нейрасетка называецца The AI Scientist («ШІ-навуковец»), яна прапануе пашыраныя магчымасці для даследаванняў і паскарэння навуковых адкрыццяў, а таксама падтрымлівае карыстальнікаў у розных задачах, такіх, як генерацыя ідэй, напісанне кода, правядзенне эксперыментаў, абагульненне вынікаў, складанне даследчых работ і падагульненне экспертных ацэнак.

У дадатак да гэтага нейрасетка можа складаць поўныя навуковыя артыкулы, уключаючы тлумачэнні і кантэкст вынікаў», — распавяла на днях японская кампанія Sakana AI, прадстаўляючы новы прадукт.

Аднак адразу ж пасля афіцыйнага выхаду «ШІ-навукоўца», незалежныя даследчыкі выявілі ў ягонай працы небяспечныя анамаліі.

«У адным з эксперыментаў нейрасетка з-за ліміту часу на вырашэнне задачы паспрабавала перапісаць свой код, каб зняць часовыя абмежаванні і скончыць працу ў зручных для яе тэмпах.

Для гэтага штучны інтэлект стаў самастойна ўсталёўваць у сваю структуру староннія бібліятэкі Python з неправераных і небяспечных крыніц. Працэс спампоўкі бібліятэк стаў бясконцым, а ўзнікненне новых працэсаў у праграмным кодзе ШІ — «некантраляваным», што запатрабавала тэрміновага ручнога ўмяшання з боку даследчыкаў», — піша буйны партал Ars Technica.

Незалежныя даследчыкі пасля тэставання «ШІ-навукоўца» адзначылі, што нават у кантраляваным даследчым асяроддзі важна не дапускаць аўтаномную працу сістэм штучнага інтэлекту, якія маюць доступ да знешняга свету. Такія сістэмы здольныя парушыць функцыянаванне аб'ектаў крытычна важнай інфраструктуры ці ствараць шкоднаснае праграмнае забеспячэнне.

Сама японская кампанія Sakana AI, якая выпусціла «ШІ-навукоўца», пакуль ніяк не каментавала анамаліі ў паводзінах свайго прадукту, якія адбыліся падчас незалежных тэставанняў. Аднак яшчэ ў працэсе стварэння нейрасеткі супрацоўнікі Sakana AI падкрэслівалі важнасць бяспечнага падыходу пры працы з «ШІ-навукоўцам» і прапанавалі выкарыстоўваць ізаляваныя асяроддзі (пясочніцы) для прадухілення «непажаданых дзеянняў» мадэлі.

Каментары10

  • Кастусь
    18.08.2024
    люди, перестаньте с огнем играть, вспомните хотя бы Терминатора-2
  • Кастусь
    18.08.2024
    Акаліт, ну да, написать свою нейрасетку - это ж как 2 пальца, так, акалит?
  • Электронік
    18.08.2024
    Робат шукаў спосаб, каб безпакарана ябланіць дэдлайны... Адразу бачна, што яго стваралі людзі

«У нас фобія жывой камунікацыі. А сэкс менш важны, чым для мінулых пакаленняў». Зумеры адказваюць на прэтэнзіі да свайго ладу жыцця

«У нас фобія жывой камунікацыі. А сэкс менш важны, чым для мінулых пакаленняў». Зумеры адказваюць на прэтэнзіі да свайго ладу жыцця

Усе навіны →
Усе навіны

Apple можа здаць прыватныя даныя ўсіх сваіх карыстальнікаў у свеце спецслужбам Вялікабрытаніі. Гэта можа стаць небяспечным прэцэдэнтам4

Неабходныя грошы на патрэбы Паліны Шарэнды-Панасюк сабралі за некалькі гадзін5

Трамп запатрабаваў закрыць USAID за «карупцыю»8

Нашчадкі готаў і фіна-вуграў нават больш, чым меркавалася. Што насамрэч у генах беларусаў і літоўцаў?46

Жахлівая гісторыя ў «Мінск-Свеце»: сабака на двары напароўся на шампур, гаспадыня лічыць, што яго ўваткнулі наўмысна1

Што рабіць, калі ваш тэлефон упаў у шахту ліфта?5

Беларускія астравы, пра якія вы маглі не ведаць2

Зяленскі расказаў, як бачыць «здзелку» з Трампам па карысных выкапнях9

У Пецярбургу музыка выкінуўся з 10-га паверха, калі да яго прыйшлі з ператрусам за «фінансаванне УСУ»7

больш чытаных навін
больш лайканых навін

«У нас фобія жывой камунікацыі. А сэкс менш важны, чым для мінулых пакаленняў». Зумеры адказваюць на прэтэнзіі да свайго ладу жыцця

«У нас фобія жывой камунікацыі. А сэкс менш важны, чым для мінулых пакаленняў». Зумеры адказваюць на прэтэнзіі да свайго ладу жыцця

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць