[NJSZT-IB] AIxCC kihívás

[Peter Erdosi]

Kedves Mindenki!

1. azt hiszem, a jelen/jövő programozóinak ezt ki kell tanulnia, nincs
mese: https://resources.github.com/copilot-for-business/

2. valóban a feketekalaposokat nem zavarja erkölcsi aggály AI-t
használni a sebezhetőségek megkeresésére, de a fehérkalaposok oldalán
is megjelent ez a lehetőség pl. https://www.makeuseof.com/is-it-possibl
e-to-use-artificial-intelligence-for-penetration-tests/

3. akinek kell, ma már simán igénybeveheti: https://aws.amazon.com/free
/machine-learning/ példának okáért ezt is

4. szerzői joghoz: https://www.portfolio.hu/uzlet/20230822/uttoro-donte
s-szuletett-a-mesterseges-intelligencia-altal-letrehozott-alkotasok-
nem-kaphatnak-szerzoi-jogi-vedelmet-634787

Egy amerikai bíróság úttörő jelentőségű ítéletében megállapította, hogy
a mesterséges intelligencia által emberi közreműködés nélkül
létrehozott műalkotások az Egyesült Államok joga szerint nem
részesülhetnek szerzői jogvédelemben - írja a Reuters. 

5. Az OWASP már ki is adta a 10 legfontosabb kockázatát az AI-nek, amit
az NKI is terjeszt: https://nki.gov.hu/it-biztonsag/hirek/az-on-vallala
ta-is-bevezetne-a-chatgpt-t-az-owasp-llm-top-10-segit-abban-hogy-
biztonsagosan-tegye/

6. ahogyan elhangzott, a jogosultság lesz a fő kérdés, nem a forráskód,
meg a beállítások, mert ezek ma is léteznek. De hgy mire lehet
használni, az szerintem nagymértékben fog attól függeni, hogy hova lesz
bedrótozva és ott milyen jogokkal és adatbázis-hozzáférésekkel tud
operálni. (ha tanulás-alapú, akkor ugye tele lehet szemetelni a
tanulésra használt adatait is akár). Kicsit olyan ez nekem, mintha
lenne egy szuper mobiltelefon-ehallgató szoftver, amelyik ha
- 20 méteren belül van hozzám képest, ÉS
- hozzáfér a mobilszolgáltató titkos adatbázisához, ÉS
- rendelkezik lehallgatási tárhellyel, 
AKKOR mekkora bajban leszek, ha kiadják a forráskódot.

Emlékeztetnék Phil Zimmermannra, pont azért nem lettünk nagy bajban,
mert a forrásküd elkezdett terjedni pólókon, MIT könyvben, bögréken meg
mindehol.

7. Ahogy szoktam idézni Neumann János szavait: (https://www.typotex.hu/
.../neumann_janos_valogatott_irasai p.367)
"A fejlődés ellen nincs gyógymód. Szükségképpen meg kell hiúsulnia
minden olyan törekvésnek, hogy (dőlt)automatikus(dőlt vége) biztonsági
csatornákat találjunk a haladás jelenlegi robbanékony változatai
számára. Az egyetlen lehetséges biztonság viszonylagos, és a napi
döntések intelligens végrehajtásában rejlik."

Üdv,
Péter



On sze, 2023-08-23 at 15:31 +0200, Keszthelyi András wrote:
> Kedves Levtársak!
> 
> Elspősorban is elhatárolódom az ilyen léha és veszélyes
> gondolatoktól, mint "A 
> győztes csapatot erősen arra ösztönzik majd, hogy nyílt forráskódúvá
> tegye 
> programját" -- ahelyett, hogy fölajánlaná a M$-nak. :)
> 
> Komolyabban:
> 
> -- ha fekete doboz modellben kutat sérülékenységek után, az szép
> dolog, de a 
> fekete kalaposok is azt teszik már régóta,
> 
> -- ha pedig a résztvevők hozzáférést kapnak forráskódokhoz meg
> beállításokhoz, 
> abba bele sem merek gondolni.
> 
> Vagy átsiklottam valami fölött?
> 
> Üdvrivalgással:
> KEA.
> 
> On 8/15/23 1:01 AM, Bátori Endre György wrote:
> > 
> > Kedves Tagság!
> > 
> > Kicsit elmolyoltam magamban azon, hova is vezethet ez a verseny az
> > elvárásai alapján. Két mondatot idéznék az első cikkből:
> > 
> > "A kiírás során egy olyan megoldást képzeltek el, amely önállóan
> > fésüli
> > át az állami és szövetségi rendszereket, hibák után kutat, és
> > azokat
> > önállóan kijavítja.
> > 
> > A győztes csapatot erősen arra ösztönzik majd, hogy nyílt
> > forráskódúvá
> > tegye programját."
> > 
> > https://itbusiness.hu/technology/security/a-verseny-tetje-az-amerik
> > ai-kibervedelem-
> > jovoje/#:~:text=A%20ki%C3%ADr%C3%A1s%20sor%C3%A1n,forr%C3%A1sk%C3%B
> > 3d%C3%BAv%C3%A1%20tegye%20programj%C3%A1t.
> > 
> > Szóval - siker esetén - keletkezik egy nyílt forráskódú program,
> > mely
> > hibák után kutat, vélhetően meg is találja őket, a javítási
> > képességet
> > pedig hajítsuk el belőle.
> > 
> > Minden olyan kritikus rendszer hibái feltérképezhetővé válnak, ahol
> > ezt
> > a kurtított verziót előbb bevetik, mint a teljeset (utóbbihoz
> > nyilván
> > külön jogosultságok is kellhetnek), melyet eredetileg megvédeni
> > szándékozik a projekt.
> > 
> > Vagy csak én vagyok paranoiás?
> > 
> > ___________________
> > Bátori Endre György
> > 
> > Mérnöktanár (mérnök-informatika)
> > Cisco instructor
> > OE BGK/KGK óraadó
> > 
> > 
> > 
> > 2023. 08. 13. 14:19 keltezéssel, Peter Erdosi írta:
> > Kedves Tagok!
> > 
> > Érdekes kihívásról írt Trautmann Balázs egy cikket.
> > 
> > https://itbusiness.hu/technology/security/a-verseny-tetje-az-amerik
> > ai-k
> > ibervedelem-jovoje/
> > 
> > A háttérről bővebben: https://www.darpa.mil/news-events/2023-08-09
> > 
> > És a szabályok: https://aicyberchallenge.com/storage/2023/08/AIxCC_
> > Rule
> > s_V1-3.pdf
> > 
> > Izgalmas lesz követni az eseményeket.
> > 
> > Köszönjük az EIVOK-nak és OP-nek!
> > 
> > Péter
> > PS: habár már Neo megmondta Agent Smith kapcsán, hogy "programok
> > hackelnek programokat", szóval a gondolat a Mátrix óta nem (sem)
> > új, de
> > ezt látni a gyakorlatban azért más lesz, mint a filmvásznon.
> > _______________________________________________
> > Infobiz mailing list
> > Infobiz at turul.kgk.uni-obuda.hu
> > http://turul.kgk.uni-obuda.hu/mailman/listinfo/infobiz
> > _______________________________________________
> > Infobiz mailing list
> > Infobiz at turul.kgk.uni-obuda.hu
> > http://turul.kgk.uni-obuda.hu/mailman/listinfo/infobiz
> > 
> _______________________________________________
> Infobiz mailing list
> Infobiz at turul.kgk.uni-obuda.hu
> http://turul.kgk.uni-obuda.hu/mailman/listinfo/infobiz