From epm at idoertek.eu Sun Aug 13 14:19:28 2023 From: epm at idoertek.eu (Peter Erdosi) Date: Sun, 13 Aug 2023 14:19:28 +0200 Subject: [NJSZT-IB] =?iso-8859-1?q?AIxCC_kih=EDv=E1s?= Message-ID: <1691929168.4002.2.camel@idoertek.eu> Kedves Tagok! Érdekes kihívásról írt Trautmann Balázs egy cikket. https://itbusiness.hu/technology/security/a-verseny-tetje-az-amerikai-k ibervedelem-jovoje/  A háttérről bővebben: https://www.darpa.mil/news-events/2023-08-09 És a szabályok: https://aicyberchallenge.com/storage/2023/08/AIxCC_Rule s_V1-3.pdf Izgalmas lesz követni az eseményeket.  Köszönjük az EIVOK-nak és OP-nek! Péter PS: habár már Neo megmondta Agent Smith kapcsán, hogy "programok hackelnek programokat", szóval a gondolat a Mátrix óta nem (sem) új, de ezt látni a gyakorlatban azért más lesz, mint a filmvásznon. From bye at turul.banki.hu Tue Aug 15 01:01:08 2023 From: bye at turul.banki.hu (=?UTF-8?B?QsOhdG9yaSBFbmRyZSBHecO2cmd5?=) Date: Tue, 15 Aug 2023 01:01:08 +0200 Subject: [NJSZT-IB] =?utf-8?b?QUl4Q0Mga2low612w6Fz?= In-Reply-To: <1691929168.4002.2.camel@idoertek.eu> References: <1691929168.4002.2.camel@idoertek.eu> Message-ID: <103594af-4e49-bbcb-637f-3443301edb8d@turul.banki.hu> Kedves Tagság! Kicsit elmolyoltam magamban azon, hova is vezethet ez a verseny az elvárásai alapján. Két mondatot idéznék az első cikkből: "A kiírás során egy olyan megoldást képzeltek el, amely önállóan fésüli át az állami és szövetségi rendszereket, hibák után kutat, és azokat önállóan kijavítja. A győztes csapatot erősen arra ösztönzik majd, hogy nyílt forráskódúvá tegye programját." https://itbusiness.hu/technology/security/a-verseny-tetje-az-amerikai-kibervedelem-jovoje/#:~:text=A%20ki%C3%ADr%C3%A1s%20sor%C3%A1n,forr%C3%A1sk%C3%B3d%C3%BAv%C3%A1%20tegye%20programj%C3%A1t. Szóval - siker esetén - keletkezik egy nyílt forráskódú program, mely hibák után kutat, vélhetően meg is találja őket, a javítási képességet pedig hajítsuk el belőle. Minden olyan kritikus rendszer hibái feltérképezhetővé válnak, ahol ezt a kurtított verziót előbb bevetik, mint a teljeset (utóbbihoz nyilván külön jogosultságok is kellhetnek), melyet eredetileg megvédeni szándékozik a projekt. Vagy csak én vagyok paranoiás? ___________________ Bátori Endre György Mérnöktanár (mérnök-informatika) Cisco instructor OE BGK/KGK óraadó 2023. 08. 13. 14:19 keltezéssel, Peter Erdosi írta: Kedves Tagok! Érdekes kihívásról írt Trautmann Balázs egy cikket. https://itbusiness.hu/technology/security/a-verseny-tetje-az-amerikai-k ibervedelem-jovoje/ A háttérről bővebben: https://www.darpa.mil/news-events/2023-08-09 És a szabályok: https://aicyberchallenge.com/storage/2023/08/AIxCC_Rule s_V1-3.pdf Izgalmas lesz követni az eseményeket. Köszönjük az EIVOK-nak és OP-nek! Péter PS: habár már Neo megmondta Agent Smith kapcsán, hogy "programok hackelnek programokat", szóval a gondolat a Mátrix óta nem (sem) új, de ezt látni a gyakorlatban azért más lesz, mint a filmvásznon. _______________________________________________ Infobiz mailing list Infobiz at turul.kgk.uni-obuda.hu http://turul.kgk.uni-obuda.hu/mailman/listinfo/infobiz From keszthelyi.andras at kgk.uni-obuda.hu Wed Aug 23 15:31:20 2023 From: keszthelyi.andras at kgk.uni-obuda.hu (=?UTF-8?Q?Keszthelyi_Andr=c3=a1s?=) Date: Wed, 23 Aug 2023 15:31:20 +0200 Subject: [NJSZT-IB] =?utf-8?b?QUl4Q0Mga2low612w6Fz?= In-Reply-To: <0595c9f8fd664dbeac681c2ab2ffa60b@EXCH1.uni-obuda.hu> References: <1691929168.4002.2.camel@idoertek.eu> <0595c9f8fd664dbeac681c2ab2ffa60b@EXCH1.uni-obuda.hu> Message-ID: Kedves Levtársak! Elspősorban is elhatárolódom az ilyen léha és veszélyes gondolatoktól, mint "A győztes csapatot erősen arra ösztönzik majd, hogy nyílt forráskódúvá tegye programját" -- ahelyett, hogy fölajánlaná a M$-nak. :) Komolyabban: -- ha fekete doboz modellben kutat sérülékenységek után, az szép dolog, de a fekete kalaposok is azt teszik már régóta, -- ha pedig a résztvevők hozzáférést kapnak forráskódokhoz meg beállításokhoz, abba bele sem merek gondolni. Vagy átsiklottam valami fölött? Üdvrivalgással: KEA. On 8/15/23 1:01 AM, Bátori Endre György wrote: > Kedves Tagság! > > Kicsit elmolyoltam magamban azon, hova is vezethet ez a verseny az > elvárásai alapján. Két mondatot idéznék az első cikkből: > > "A kiírás során egy olyan megoldást képzeltek el, amely önállóan fésüli > át az állami és szövetségi rendszereket, hibák után kutat, és azokat > önállóan kijavítja. > > A győztes csapatot erősen arra ösztönzik majd, hogy nyílt forráskódúvá > tegye programját." > > https://itbusiness.hu/technology/security/a-verseny-tetje-az-amerikai-kibervedelem-jovoje/#:~:text=A%20ki%C3%ADr%C3%A1s%20sor%C3%A1n,forr%C3%A1sk%C3%B3d%C3%BAv%C3%A1%20tegye%20programj%C3%A1t. > > Szóval - siker esetén - keletkezik egy nyílt forráskódú program, mely > hibák után kutat, vélhetően meg is találja őket, a javítási képességet > pedig hajítsuk el belőle. > > Minden olyan kritikus rendszer hibái feltérképezhetővé válnak, ahol ezt > a kurtított verziót előbb bevetik, mint a teljeset (utóbbihoz nyilván > külön jogosultságok is kellhetnek), melyet eredetileg megvédeni > szándékozik a projekt. > > Vagy csak én vagyok paranoiás? > > ___________________ > Bátori Endre György > > Mérnöktanár (mérnök-informatika) > Cisco instructor > OE BGK/KGK óraadó > > > > 2023. 08. 13. 14:19 keltezéssel, Peter Erdosi írta: > Kedves Tagok! > > Érdekes kihívásról írt Trautmann Balázs egy cikket. > > https://itbusiness.hu/technology/security/a-verseny-tetje-az-amerikai-k > ibervedelem-jovoje/ > > A háttérről bővebben: https://www.darpa.mil/news-events/2023-08-09 > > És a szabályok: https://aicyberchallenge.com/storage/2023/08/AIxCC_Rule > s_V1-3.pdf > > Izgalmas lesz követni az eseményeket. > > Köszönjük az EIVOK-nak és OP-nek! > > Péter > PS: habár már Neo megmondta Agent Smith kapcsán, hogy "programok > hackelnek programokat", szóval a gondolat a Mátrix óta nem (sem) új, de > ezt látni a gyakorlatban azért más lesz, mint a filmvásznon. > _______________________________________________ > Infobiz mailing list > Infobiz at turul.kgk.uni-obuda.hu > http://turul.kgk.uni-obuda.hu/mailman/listinfo/infobiz > _______________________________________________ > Infobiz mailing list > Infobiz at turul.kgk.uni-obuda.hu > http://turul.kgk.uni-obuda.hu/mailman/listinfo/infobiz > From epm at idoertek.eu Thu Aug 24 14:52:37 2023 From: epm at idoertek.eu (Peter Erdosi) Date: Thu, 24 Aug 2023 14:52:37 +0200 Subject: [NJSZT-IB] =?iso-8859-1?q?AIxCC_kih=EDv=E1s?= In-Reply-To: References: <1691929168.4002.2.camel@idoertek.eu> <0595c9f8fd664dbeac681c2ab2ffa60b@EXCH1.uni-obuda.hu> Message-ID: <1692881557.4013.10.camel@idoertek.eu> Kedves Mindenki! 1. azt hiszem, a jelen/jövő programozóinak ezt ki kell tanulnia, nincs mese: https://resources.github.com/copilot-for-business/ 2. valóban a feketekalaposokat nem zavarja erkölcsi aggály AI-t használni a sebezhetőségek megkeresésére, de a fehérkalaposok oldalán is megjelent ez a lehetőség pl. https://www.makeuseof.com/is-it-possibl e-to-use-artificial-intelligence-for-penetration-tests/ 3. akinek kell, ma már simán igénybeveheti: https://aws.amazon.com/free /machine-learning/ példának okáért ezt is 4. szerzői joghoz: https://www.portfolio.hu/uzlet/20230822/uttoro-donte s-szuletett-a-mesterseges-intelligencia-altal-letrehozott-alkotasok- nem-kaphatnak-szerzoi-jogi-vedelmet-634787 Egy amerikai bíróság úttörő jelentőségű ítéletében megállapította, hogy a mesterséges intelligencia által emberi közreműködés nélkül létrehozott műalkotások az Egyesült Államok joga szerint nem részesülhetnek szerzői jogvédelemben - írja a Reuters.  5. Az OWASP már ki is adta a 10 legfontosabb kockázatát az AI-nek, amit az NKI is terjeszt: https://nki.gov.hu/it-biztonsag/hirek/az-on-vallala ta-is-bevezetne-a-chatgpt-t-az-owasp-llm-top-10-segit-abban-hogy- biztonsagosan-tegye/ 6. ahogyan elhangzott, a jogosultság lesz a fő kérdés, nem a forráskód, meg a beállítások, mert ezek ma is léteznek. De hgy mire lehet használni, az szerintem nagymértékben fog attól függeni, hogy hova lesz bedrótozva és ott milyen jogokkal és adatbázis-hozzáférésekkel tud operálni. (ha tanulás-alapú, akkor ugye tele lehet szemetelni a tanulésra használt adatait is akár). Kicsit olyan ez nekem, mintha lenne egy szuper mobiltelefon-ehallgató szoftver, amelyik ha - 20 méteren belül van hozzám képest, ÉS - hozzáfér a mobilszolgáltató titkos adatbázisához, ÉS - rendelkezik lehallgatási tárhellyel,  AKKOR mekkora bajban leszek, ha kiadják a forráskódot. Emlékeztetnék Phil Zimmermannra, pont azért nem lettünk nagy bajban, mert a forrásküd elkezdett terjedni pólókon, MIT könyvben, bögréken meg mindehol. 7. Ahogy szoktam idézni Neumann János szavait: (https://www.typotex.hu/ .../neumann_janos_valogatott_irasai p.367) "A fejlődés ellen nincs gyógymód. Szükségképpen meg kell hiúsulnia minden olyan törekvésnek, hogy (dőlt)automatikus(dőlt vége) biztonsági csatornákat találjunk a haladás jelenlegi robbanékony változatai számára. Az egyetlen lehetséges biztonság viszonylagos, és a napi döntések intelligens végrehajtásában rejlik." Üdv, Péter On sze, 2023-08-23 at 15:31 +0200, Keszthelyi András wrote: > Kedves Levtársak! > > Elspősorban is elhatárolódom az ilyen léha és veszélyes > gondolatoktól, mint "A  > győztes csapatot erősen arra ösztönzik majd, hogy nyílt forráskódúvá > tegye  > programját" -- ahelyett, hogy fölajánlaná a M$-nak. :) > > Komolyabban: > > -- ha fekete doboz modellben kutat sérülékenységek után, az szép > dolog, de a  > fekete kalaposok is azt teszik már régóta, > > -- ha pedig a résztvevők hozzáférést kapnak forráskódokhoz meg > beállításokhoz,  > abba bele sem merek gondolni. > > Vagy átsiklottam valami fölött? > > Üdvrivalgással: > KEA. > > On 8/15/23 1:01 AM, Bátori Endre György wrote: > > > > Kedves Tagság! > > > > Kicsit elmolyoltam magamban azon, hova is vezethet ez a verseny az > > elvárásai alapján. Két mondatot idéznék az első cikkből: > > > > "A kiírás során egy olyan megoldást képzeltek el, amely önállóan > > fésüli > > át az állami és szövetségi rendszereket, hibák után kutat, és > > azokat > > önállóan kijavítja. > > > > A győztes csapatot erősen arra ösztönzik majd, hogy nyílt > > forráskódúvá > > tegye programját." > > > > https://itbusiness.hu/technology/security/a-verseny-tetje-az-amerik > > ai-kibervedelem- > > jovoje/#:~:text=A%20ki%C3%ADr%C3%A1s%20sor%C3%A1n,forr%C3%A1sk%C3%B > > 3d%C3%BAv%C3%A1%20tegye%20programj%C3%A1t. > > > > Szóval - siker esetén - keletkezik egy nyílt forráskódú program, > > mely > > hibák után kutat, vélhetően meg is találja őket, a javítási > > képességet > > pedig hajítsuk el belőle. > > > > Minden olyan kritikus rendszer hibái feltérképezhetővé válnak, ahol > > ezt > > a kurtított verziót előbb bevetik, mint a teljeset (utóbbihoz > > nyilván > > külön jogosultságok is kellhetnek), melyet eredetileg megvédeni > > szándékozik a projekt. > > > > Vagy csak én vagyok paranoiás? > > > > ___________________ > > Bátori Endre György > > > > Mérnöktanár (mérnök-informatika) > > Cisco instructor > > OE BGK/KGK óraadó > > > > > > > > 2023. 08. 13. 14:19 keltezéssel, Peter Erdosi írta: > > Kedves Tagok! > > > > Érdekes kihívásról írt Trautmann Balázs egy cikket. > > > > https://itbusiness.hu/technology/security/a-verseny-tetje-az-amerik > > ai-k > > ibervedelem-jovoje/ > > > > A háttérről bővebben: https://www.darpa.mil/news-events/2023-08-09 > > > > És a szabályok: https://aicyberchallenge.com/storage/2023/08/AIxCC_ > > Rule > > s_V1-3.pdf > > > > Izgalmas lesz követni az eseményeket. > > > > Köszönjük az EIVOK-nak és OP-nek! > > > > Péter > > PS: habár már Neo megmondta Agent Smith kapcsán, hogy "programok > > hackelnek programokat", szóval a gondolat a Mátrix óta nem (sem) > > új, de > > ezt látni a gyakorlatban azért más lesz, mint a filmvásznon. > > _______________________________________________ > > Infobiz mailing list > > Infobiz at turul.kgk.uni-obuda.hu > > http://turul.kgk.uni-obuda.hu/mailman/listinfo/infobiz > > _______________________________________________ > > Infobiz mailing list > > Infobiz at turul.kgk.uni-obuda.hu > > http://turul.kgk.uni-obuda.hu/mailman/listinfo/infobiz > > > _______________________________________________ > Infobiz mailing list > Infobiz at turul.kgk.uni-obuda.hu > http://turul.kgk.uni-obuda.hu/mailman/listinfo/infobiz