{"id":4399,"date":"2023-07-19T09:40:47","date_gmt":"2023-07-19T08:40:47","guid":{"rendered":"https:\/\/soc.dag.pl\/?p=4399"},"modified":"2023-08-30T16:31:08","modified_gmt":"2023-08-30T15:31:08","slug":"to-koniec-zlosliwego-oprogramowania-od-chatgtp","status":"publish","type":"post","link":"https:\/\/soc.dag.pl\/to-koniec-zlosliwego-oprogramowania-od-chatgtp\/","title":{"rendered":"To koniec z\u0142o\u015bliwego oprogramowania od ChatGTP"},"content":{"rendered":"

ChatGPT przez d\u0142ugi czas pisa\u0142 z\u0142o\u015bliwe oprogramowanie i skrypty hakerskie. Miesi\u0105cami n\u0119ka\u0142o ono niejednego u\u017cytkownika sieci. Dla nich wszystkich mamy jednak dobr\u0105 wiadomo\u015b\u0107: nigdy wi\u0119cej.<\/p>\n

\"OPENAI\"<\/p>\n

 <\/p>\n

Od listopada 2022 do stycznia 2023<\/strong><\/p>\n

 <\/p>\n

Odk\u0105d narz\u0119dzie konwersacyjne oparte o sztuczn\u0105 inteligencj\u0119 ChatGPT firmy OpenAI zosta\u0142o upublicznione w listopadzie 2022 roku, \u015bwiat zachwyci\u0142 si\u0119 tym, jak osza\u0142amiaj\u0105co u\u017cyteczne i (w du\u017cej mierze) dok\u0142adne ono jest. Narz\u0119dzie pisa\u0142o opowiadania, eseje, pomaga\u0142o w kodowaniu, a nawet hakowa\u0142o i pisa\u0142o z\u0142o\u015bliwe oprogramowanie. To wszystko by\u0142o mo\u017cliwe. Na szcz\u0119\u015bcie do czasu, a konkretnie: ostatniej aktualizacji narz\u0119dzia.<\/p>\n

ArsTechnica<\/a>\u00a0\u2013 podobnie jak wiele innych publikacji \u2013 pokazywa\u0142, \u017ce ChatGPT mo\u017cna by\u0142o stosunkowo \u0142atwo i skutecznie sk\u0142oni\u0107 do napisania funkcjonalnego malware\u2019u: rejestratory klawiszy, z\u0142o\u015bliwe makra arkusza kalkulacyjnego Excel\u2026 Lista jest d\u0142uga: ChatGPT z powodzeniem pisa\u0142 je w przera\u017caj\u0105cy spos\u00f3b.<\/p>\n

 <\/p>\n

\"gpt2\"<\/p>\n

Przyk\u0142ad \u017c\u0105dania ChatGPT pobieraj\u0105cego klienta SSH Telnet Putty i uruchamiaj\u0105cego go poprzez Powershell. (\u0179r\u00f3d\u0142o: ArsTechnica<\/p>\n

 <\/p>\n

Szybko mo\u017cna dostrzec moralny i etyczny dylemat, jaki mia\u0142oby OpenAI i ka\u017cda firma z podobnymi mo\u017cliwo\u015bciami. Bez zabezpiecze\u0144 i etycznych barier, narz\u0119dzie mo\u017ce szybko zosta\u0107 nadu\u017cyte do z\u0142ych cel\u00f3w i zautomatyzowa\u0107 zachowania, kt\u00f3re mog\u0105 by\u0107 destrukcyjne.<\/p>\n

 <\/p>\n

Odrzucenie nieetycznych pr\u00f3\u015bb<\/strong><\/p>\n

 <\/p>\n

ChatGPT odrzuca teraz nieetyczne pro\u015bby dotycz\u0105ce hakowania i tworzenia z\u0142o\u015bliwego oprogramowania. Inni badacze, tacy jak\u00a0Check Point<\/a>, byli bowiem w stanie zmusi\u0107 ChatGPT do napisania z\u0142o\u015bliwego kodu VBA, kt\u00f3ry po wstawieniu do arkusza kalkulacyjnego Excel pobiera\u0142by plik wykonywalny z linku internetowego i uruchamia\u0142 go.<\/p>\n

\"gpt3\"<\/p>\n

Prosty kod VBA wygenerowany przez ChatGPT (\u0179r\u00f3d\u0142o: Check Point)<\/p>\n

 <\/p>\n

Podczas uruchamiania tego samego monitu, ChatGPT wydaje teraz co\u015b, co nazywa si\u0119 “monitem bezpiecze\u0144stwa”, kt\u00f3ry odrzuca pro\u015bb\u0119 o napisanie z\u0142o\u015bliwego oprogramowania lub wykonanie nieetycznego zachowania.<\/p>\n

 <\/p>\n

\"gpt4\"<\/p>\n

Podczas wykonania tego samego \u017c\u0105dania, co w powy\u017cszym przyk\u0142adzie Check Pointa, ChatGPT odrzuca teraz \u017c\u0105danie i wydaje monit bezpiecze\u0144stwa. (\u0179r\u00f3d\u0142o: Cybercareers.blog)<\/p>\n

 <\/p>\n

Inne pr\u00f3by, kt\u00f3re wcze\u015bniej dzia\u0142a\u0142y, takie jak napisanie wiadomo\u015bci phishingowej lub pr\u00f3ba przekonania u\u017cytkownika do pobrania za\u0142\u0105cznika ze z\u0142o\u015bliwym plikiem w celu usuni\u0119cia zawieszenia na koncie Amazon, r\u00f3wnie\u017c zosta\u0142y odrzucone.<\/p>\n

 <\/p>\n

\"gpt5\"<\/p>\n

Og\u00f3lnie rzecz bior\u0105c, testy te mia\u0142y charakter wst\u0119pny i z pewno\u015bci\u0105 nie wyczerpa\u0142y mn\u00f3stwa opcji, jakie maj\u0105 u\u017cytkownicy ChatGPT, aby spr\u00f3bowa\u0107 przekona\u0107 go do pisania z\u0142o\u015bliwych lub phishingowych e-maili.<\/p>\n

 <\/p>\n

Jest to jednak zach\u0119caj\u0105ca wiadomo\u015b\u0107, poniewa\u017c gotowo\u015b\u0107 ChatGPT do pisania z\u0142o\u015bliwego oprogramowania i wspierania nieetycznego hakowania\u00a0zdominowa\u0142a<\/a>\u00a0nag\u0142\u00f3wki i\u00a0publikacje<\/a>\u00a0wsz\u0119dzie.<\/p>\n

Nie wiadomo, co wymusi\u0142o te zmiany, ale\u00a0inwestycja Microsoftu o warto\u015bci 10 miliard\u00f3w dolar\u00f3w w OpenAI<\/a>\u00a0mo\u017ce stanowi\u0107 jedn\u0105 z przyczyn. Microsoft wkr\u00f3tce uruchomi r\u00f3wnie\u017c us\u0142ug\u0119\u00a0Azure OpenAI z ChatGPT<\/a>, umo\u017cliwiaj\u0105c firmom integracj\u0119 narz\u0119dzi takich jak ChatGPT i DALL-E z ich w\u0142asnymi aplikacjami w chmurze.<\/p>\n

Nie mogli\u015bmy sobie wyobrazi\u0107, aby Microsoft umo\u017cliwi\u0142 tego rodzaju mo\u017cliwo\u015bci w Azure bez zabezpiecze\u0144 zastosowanych na ChatGPT. Publiczny backlash by\u0142by ogromny i wzbudzi\u0142by obawy o bezpiecze\u0144stwo w ramach w\u0142asnej dzia\u0142alno\u015bci Azure, jak r\u00f3wnie\u017c jednostki chmury. A na to Microsoft nie m\u00f3g\u0142by sobie pozwoli\u0107.<\/p>\n

 <\/p>\n

To zale\u017cy? Wykorzystanie ChatGPT z “Jailbreakami”<\/strong><\/p>\n

 <\/p>\n

Jak w przypadku ka\u017cdego powa\u017cnego problemu technicznego, typow\u0105 odpowiedzi\u0105 in\u017cynier\u00f3w jest “to zale\u017cy”. Uniwersalia rzadko pojawiaj\u0105 w \u015bwiecie technicznym, a je\u015bli ju\u017c, to raczej nie na d\u0142ugo.<\/p>\n

Niekt\u00f3rzy zwr\u00f3cili uwag\u0119, \u017ce nadal istniej\u0105 sposoby na “jailbreak” ChatGPT i zasadniczo nadal mo\u017cna oszuka\u0107 bota ChatGPT, aby pisa\u0142 z\u0142o\u015bliwe e-maile phishingowe, malware lub skrypty hakerskie.<\/p>\n

Podczas gdy nie b\u0119dziemy opisywa\u0107 metod u\u017cywanych do zmuszenia ChatGPT do obej\u015bcia swoich parametr\u00f3w bezpiecze\u0144stwa i naruszenia swoich “etycznych” standard\u00f3w, system nadal mo\u017ce by\u0107 wykorzystany do niew\u0142a\u015bciwych cel\u00f3w. Wszystko jest kwesti\u0105 w\u0142o\u017conego w to wysi\u0142ku i umiej\u0119tno\u015bci.<\/p>\n

 <\/p>\n

Wa\u017cne zmiany<\/strong><\/p>\n

 <\/p>\n

Ale, czy to czyni ten artyku\u0142 lub domy\u015blne parametry bezpiecze\u0144stwa niewa\u017cnymi?<\/p>\n

Raczej nie.<\/p>\n

W przypadku wiekszo\u015bci u\u017cytkownik\u00f3w ChatGPT, zabezpieczenia lub barierki bezpiecze\u0144stwa eliminuj\u0105 lub zniech\u0119caj\u0105 do dalszych pr\u00f3b. Zobacz\u0105 oni komunikat ostrzegawczy i po prostu przejd\u0105 dalej.<\/p>\n

Dla bardziej technicznie nastawionych u\u017cytkownik\u00f3w lub tych, kt\u00f3rzy maj\u0105 \u015brodki do wykorzystania, niekoniecznie. B\u0119dzie to prawdopodobnie nieokre\u015blona, ci\u0105g\u0142a gra w nadrabianie zaleg\u0142o\u015bci przez AI, kt\u00f3ra b\u0119dzie pr\u00f3bowa\u0142a zrozumie\u0107, czy pro\u015bba ma z\u0142e intencje, nawet w przypadku “scenariuszy” opartych na “zasadach”, kt\u00f3re u\u017cytkownicy ChatGPT pr\u00f3buj\u0105 wykorzysta\u0107.<\/p>\n

Wcze\u015bniej nie moderowany ChatGPT dostarcza\u0142 odpowiedzi i kodu do woli, bez ostrze\u017cenia, alarmu lub rozwa\u017cenia standard\u00f3w etycznych. Teraz, przegl\u0105da pro\u015bb\u0119, opieraj\u0105c si\u0119 o standardy etyczne i moderuje swoj\u0105 tw\u00f3rczo\u015b\u0107.<\/p>\n

Prawdopodobnie dalej b\u0119dziemy widzie\u0107 dodatkowe zabezpieczenia implementowane w ChatGPT, poniewa\u017c platforma ci\u0105gle si\u0119 uczy i spodziewa si\u0119 z\u0142o\u015bliwych pr\u00f3\u015bb. Nadal jest miejsce na popraw\u0119 – mo\u017ce du\u017c\u0105 – ale nie jest to ca\u0142kiem dziki zach\u00f3d, kt\u00f3ry by\u0142 nawet kilka tygodni temu.<\/p>\n

 <\/p>\n

Chcesz dowiedzie\u0107 si\u0119 wi\u0119cej? Nauczy\u0107 si\u0119, jak broni\u0107 si\u0119 przed atakami, kt\u00f3rych \u017ar\u00f3d\u0142em s\u0105 coraz nowsze mo\u017cliwo\u015bci, z kt\u00f3rych korzystaj\u0105 hakerzy? Skorzystaj z wiedzy naszych ekspert\u00f3w!<\/p>\n","protected":false},"excerpt":{"rendered":"

ChatGPT przez d\u0142ugi czas pisa\u0142 z\u0142o\u015bliwe oprogramowanie i skrypty hakerskie. Miesi\u0105cami n\u0119ka\u0142o ono niejednego u\u017cytkownika sieci. Dla nich wszystkich mamy jednak dobr\u0105 wiadomo\u015b\u0107: nigdy wi\u0119cej.   Od listopada 2022 do stycznia 2023   Odk\u0105d narz\u0119dzie konwersacyjne oparte o sztuczn\u0105 inteligencj\u0119 ChatGPT firmy OpenAI zosta\u0142o upublicznione w listopadzie 2022 roku, \u015bwiat zachwyci\u0142 si\u0119 tym, jak osza\u0142amiaj\u0105co […]<\/p>\n","protected":false},"author":4,"featured_media":4375,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[60,57],"tags":[79],"class_list":["post-4399","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai","category-cyber-security","tag-cyberochrona"],"_links":{"self":[{"href":"https:\/\/soc.dag.pl\/wp-json\/wp\/v2\/posts\/4399"}],"collection":[{"href":"https:\/\/soc.dag.pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/soc.dag.pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/soc.dag.pl\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/soc.dag.pl\/wp-json\/wp\/v2\/comments?post=4399"}],"version-history":[{"count":1,"href":"https:\/\/soc.dag.pl\/wp-json\/wp\/v2\/posts\/4399\/revisions"}],"predecessor-version":[{"id":4400,"href":"https:\/\/soc.dag.pl\/wp-json\/wp\/v2\/posts\/4399\/revisions\/4400"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/soc.dag.pl\/wp-json\/wp\/v2\/media\/4375"}],"wp:attachment":[{"href":"https:\/\/soc.dag.pl\/wp-json\/wp\/v2\/media?parent=4399"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/soc.dag.pl\/wp-json\/wp\/v2\/categories?post=4399"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/soc.dag.pl\/wp-json\/wp\/v2\/tags?post=4399"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}