1:03Mamma mia, quanto non mi piace quando ho nella testa un discorso molto lungo da fare, molto complicato e invece il percorso che devo fare è breve.
1:12Dice "Ma vuoi guidare di più di quando guidi?" A parte del fatto che io non guido, tanto è che il tempo in cui guido lo dedico a questa attività di YouTube, quindi come dire c'è un bias percepito dallo spettatore.
1:28Ma dici perché i video non li fai quando sei davanti al computer? Perché quando sono davanti al computer computerizzo invece di fare i video perlopiù. Però volevo fare un discorso articolato sulla security. In questo momento lo sapete tutti che la security è in su buio perché i large language model trovano bug, ma anche perché i large language model sono bravissimi ad attaccare.
1:50Eh, sono bravissimi ad attaccare anche in maniera assai umana. mettono assieme tutti i puntini, costruiscono attacchi partendo da cose che sembrano mime, da attacchi molto più grandi, eh poi iniziano a eh a fare dei security check sempre più approfonditi. Una volta che hanno ottenuto un primo livello di accesso per trovare altro, si vanno a scaricare i sorgenti, magari trovano uno zero day
2:18nel servizio che stavano eh valutando come attivo in una data macchina e praticamente diventa molto difficile.
2:26Questi modelli in parte non sono facili da eh cioè non tutti hanno accesso a questi modelli di frontiera nella loro capacità da attaccante. alcuni ce l'hanno solo per la sicurezza difensiva, eh, ma è anche vero che in realtà, siccome questi attacchi accadono e come eh nella realtà pratica, eh in realtà la gente si scarica Kimi K1.3 3 Pro un minimo di eh e già lui è abbastanza
2:54disponibile se lo forzi un po' o se fai eh prefixing di col promptere che c'è già una storia di attacco in corso e quindi lui continua o se fai vector steering e o semplicemente così già di suo, questi attacchi si fanno e ci sono molti che li fanno eccetera.
3:20Il punto è come tutelarsi.
3:23Molti di noi hanno delle macchine esposte su internet, a parte il fatto che c'è una grande questione su come tutelarsi pure se sei con il tuo portatile e così via, però questa questione diventa molto più importante qualora eh tu abbia delle macchine esposte o delle macchine in rete tra di loro, anche tramite una VPN, perché comunque la superficie aumenta dal momento in cui non hai la tua NAT col
3:51modem. che ti protegge. Sì, è possibile anche che trovano un attacco nel modem che gli dà accesso alla rete locale, che gli dà accesso poi quindi ai computer di casa tua, però almeno l'indirizzo IP varia ogni volta che ti sconnetti e ti riconnetti. I modem hanno comunque una eh cioè ci deve essere un bug proprio in quella piccolissima superficie esposta lo stackp esterno. Eh se invece hai un
4:18server esposto sono eh molto più più complicate le le questioni. E allora com'è che ci si difende l'auto server?
4:29Tanto per iniziare vorrei fare un discorso proprio sulla superficie d'attacco. Vi ricordate quando ho parlato qua del vulnerabilità del kernel di Linux trovata qualche tempo fa sulla local privilegge escalation tramite i moduli del kernel che implementavano quelle eh primitive crittografiche. Ecco perché qu una roba del genere era nel kernel. Ora in X avete visto il bug che è uscito du due giorni fa ovviamente su HTTP2.
4:57un enorme errore di complessità, di ehm consolidamento di layer che dovrebbero essere separati di Google Engineering, lo dico, diciamo, con disprezzo, eh di migliorare il 10% le performance al costo incalcolabile, invece di, diciamo, di complessità e ora
5:24di security che noi paghiamo.
5:27Ehm, ma di fatto come si fa? Perché quello che accade che noi usiamo tutti per dire eh Openess SH o eh Engine X come web server, il kernel di Linux, quindi noi siamo esposti simultaneamente tutti alla stessa codebase che può essere sempre di più mano che escono i modelli eh controllate possono venire
5:55fuori nuove vulnerabilità, a volte non hai neanche il tempo per difenderti.
5:59Allora, era uscita la eh vulnerabilità di Engine X. Eh, non me nero accorto immediatamente, un mio amico mi ha scritto subito su Telegram, sono andato a controllare su una delle mie macchine e praticamente non c'era ancora neanche il il pacchetto Debian eh rilasciato per l'aggiornamento, anche se io c'ho gli auto update attivi. Poi ovviamente vado a scoprire che si riferiva all'HTTP2 che per fortuna io ho disabilitato, quindi non ero
6:28vulnerabile, però insomma è stato un caso. come si fa a ridurre a zero quella finestra di vulnerabilità? Ma è semplicemente impossibile. Allora, una delle cose, io mi sono occupato in passato di sicurezza informatica, poi ho lasciato il campo proprio perché non mi interessava più per come era diventata la security, ma quello che vedo oggi è esattamente le ceneri eh di quello che aveva iniziato a non piacermi, perché l'approccio non era veramente
6:58beh, cosa che dobbiamo fare a livello ingegneristico, strutturale di ingegneria del software per dare qualità, ma era insomma compless anche nella security c'era come come dire era diventato un campo molto più noioso rispetto a quello che che che avevo io visto, diciamo così, a cavallo degli anni 90.
7:22Però una cosa che probabilmente si ricorderanno i pochi che hanno avuto a che fare con me e quando io mi occupavo di sicurezza informatica è che io ho sempre pensato che questa cosa che la sicurezza attraverso lo scuoramento tutti dicevano questa idea, diciamo così, questo assunto che fosse una stupidaggine, io ho sempre detto "Ma che cazzo dici? veramente un layer di ridondanza in più, perché se io non ho i sorgenti di quello che tu hai
7:51implementato, sì, non è una garanzia perché comunque dalla dall'esterno si può eh collezionare abbastanza informazioni di stato e posso provare a immaginare dove sono i bug eccetera eccetera e provarli, però la verità è che crea una layer, crea è uno strato di ehm ridondanza che crea all'attaccante una grandissima complicazione in più e questo era vero anche prima, ma oggi
8:21questa cosa è più vera che mai perché ripeto, il problema di oggi è che siamo esposti tutti simultaneamente un botto di problemi di sicurezza sulla stessa Codebase che si materializzano uno dopo l'altro, a cui siamo tutti esposti contemporaneamente che la porta di queste di questi security ehm di questa vulnerabilità di sicurezza è sempre per ora, diciamo, da
8:48quando ci sono gli LLM e perlopi viene ottenuta studiando il codice sorgente.
8:55Eh, un LLM se ha un binario potrebbe far lo stesso, però dico, cioè devi avere comunque un appiglio. Tu non hai niente, hai solo la porta aperta che parla un servizio, lo puoi fare, ma ti devi mettere a targettizzare, cioè devi avere proprio come target quel server e inizia a fare un lavoro molto complicato che prima non deve essere notato, perché collezionare stato significa fare tante richieste, per esempio, eh, quindi le cose si
9:23complicano un botto. Quindi oggi più che mai la sicurezza attraverso lo scuramento è un layer addizionale che si può utilizzare. Allora io per esempio che cos'è che ho fatto? Ho chiuso le parte 22. Questo è un vizio che avevo anche in passato quando ero paranoico, eh. E queste porte 22 nei nei miei server, quelli che volevo mettere in sicurezza, si aprono solo se fai un'operazione assolutamente controintuitiva che in effetti puoi fare
9:50pubblicamente su quel server che io non svelerò qui e allora si aprono la porta 22, altrimenti è chiusa e non c'è un domani un un problema col server di SSH.
10:02Eh, io non sono esposto perché la porta non è raggiungibile e figuratevi se i mascanner vanno a beccare come si fa, tra l'altro che serve una chiave che è complicato.
10:15Allo stesso tempo però questa cosa vi fa notare come la complessità crei uno scoglio. Crei uno scoglio eh anche a chi volesse utilizzare queste tecniche. Tra l'altro la ovviamente la parte questa qui che apre eh la porta SSH me la sono scritta da me con delle specifiche mie. Eh ho fatto dei security auditing con le AI eccetera eccetera, quindi diciamo ecco
10:44non è un tool che ho preso, è una cosa che ho solo io, ecco, per capirci.
10:50Allora, uno potrebbe dire, "Scusa, ma io mi scrivo pure il web server, perché sai il problema è che ho in molti server una delle cose che non puoi evitare di esporre, sì, puoi puoi fare un sacco di eh di hardening di di di vario tipo, però cazzo, il web server deve rispondere agli altri, no? Sono arrivato continuo dopo."
11:13Cioè, ma io ma quale cazzo di maglione?
11:15Io sto morendo qua. Dov'è il microfono? Dov'è finito?
11:21Amoci sto microfono, sennò non potete sentirmi mai ovviamente.
11:27Se si crepa dal caldo.
11:32Allora ragazzi, dicevo, vabbè, allora uno può dire, tra l'altro c'è anche il rumore dell'aria condizionata che in teoria dovrebbe essere una cosa solo estiva, ma se uno non accende l'aria, ma cioè è bellissimo.
11:49Qua si vede il mare.
11:56È veramente bellissimo, però laggiù è il mare.
12:09Vabbè, da lì colò è tutto. Eh, dicevo, quindi uno dice "Vabbè, ma io mi riscrivo anche il web server". Sì, come fai? Perché purtroppo, anche se è sacrosanto avere le connessioni web cifrate, purtroppo lo standard a cui siamo convenuti non ha nulla a che fare con la complessità intrinseca della crittografia, ma col fatto che quella roba lì è una merda
12:38totale a livello di progetto. Quindi tu non ti puoi reimplementare SSL, o meglio sì, si può fare perché ormai gli LLM di frontiera ti possono scrivere da zero anche tutte quelle roba là, però diciamo magari ecco non arrivi forse a tanto, anche se sapete quasi quasi un pensiero ce lo faccio, altrimenti se noi fossimo nella condizione ancora di server HTTP vaniglia,
13:08ma ha voglia se non vale la pena dire implementarsi un web server, fare auditi, quell AI che c'è oggi, ma minchia, non vedo un cazzo. Ha voglia se se ne vale la pena, però questa cosa limita. Allora, in teoria uno cosa che potrebbe dire? Uno potrebbe dire, allora facciamo una cosa, io siccome non mi posso riscrivere tutto, mi scrivo però un proxy. Mi scrivo un proxy con una check molto stretto della formato
13:38Scusate, sono un po' in difficoltà perché non si vede nulla. Sapete perché?
13:42C'ho il sole in faccia, ma siccome io dovete sapere che mi compro le macchine e poi le le lavo se le devo vendere la prima volta, eh perché l'idea di passare del tempo lì a lavare, mentre potrei fare cose più utili, mettere lì come un cretino, aspettare che si lava la macchina, fare queste, diciamo, eh faccende da da uomo medio che tiene alla
14:11macchina per me la morte della mia anima, però effettivamente poi mi ritrovo con una macchia che dovrebbe essere che è molto meno pulita di come potrebbe essere, quindi qualche volta devo andarci. Questa quando l'ho comprata l'anno scorso, forse ancora di più, un po' di più a questo punto. Beh, dovrò farla lavare prima o poi o sennò me la lavo io che almeno è divertente.
14:32Ecco quello sì, perché almeno c'è il lavoro fisico, eh, diciamo una specie di palestra.
14:39A Natale mi sa che ti laverò, cara macchina.
14:43Ehm, quindi dicevo, oggi che fai? Ti puoi fare un parser molto strict che metti come proxy dell SSL, implementi solo l'andake, il minimo che serve per forza per essere front facing, se c'è qualcosa che non ti convince, però secondo me non ne vale la pena perché comunque sei lo stesso esposto ad Engine X o potresti fare un'altra cosa, ti vai a guardare una bella implementazione di web server che ormai in pochi usano e magari dove pochi vanno
15:12a guardare, ma sempre i sorgenti sono esposti. magari invece ti targetizzano proprio a te perché vanno a fare un auditing lì che ha ricevuto meno cura e ti ci sono poche soluzioni su alcune questioni. Riguardo invece la faccenda dell'auto update. Il problema dell'auto update è che sempre una dal punto di vista dell'erogazione del servizio è sempre una così un grande punto interrogativo. a volte può capitare che c'è l'aggiornamento del pacchetto e in
15:41realtà poi il servizio non torna su o ci sono errori o è cambiato qualcosa o vari problemi. Ma a questo punto è irrinunciabile alla faccia del fatto che magari non lo so, sì, può essere che un sito poi va giù, un servizio va giù, ma ci sono poche alternative. Ecco, certo, se capita che Open SSH non non riparta non è bellissimo perché poi ti devi
16:09loggare. Se il tuo server ha una console remota, devi sperare di sì e poi i tuoi i tuoi i tecnici del di te la vanno ad attaccare se non l'hai attivata per default, proprio perché potrebbe essere anche rischioso, insomma. le cose si complicano in una maniera spettacolare, però fatto sta che oggi in pratica non si può stare senza la top date.
16:34Un'altra questione riguarda il fatto del il ruolo dei dei del degli agenti dell'AI di frontiera sulla manutenzione di un server.
16:43Ehm, io sono sempre più convinto che il modo in cui, per esempio, ho potuto fare l'ardening di alcune macchine, per altre certe cose si possono fare per dire, fai girare ovviamente, cioè compartimentizzi tutto e allora uno dice sì, io questo servizio lo faccio girare come questo utente, quest'altro come quell'altro utente. L'amministrazione di sistema la faccia di questo utente che ha l'unico è l'unico che ha sudo con la password.
17:10figurarsi a sti tempi, però poi tu fai tutta sta cosa qui e con i tut e con tutti i eh la scalata dei privilegi locali e che hanno trovato tipo 600 attacchi quelli di Open AI. Sì, certo.
17:26Mentre li vanno fixando, però se trovi 600 attacchi ce ne sono un botto che non sono ancora stati scovati, che richiedono più run o ll un po' più potenti o cioè capite qual è il problema qua che si pone? Sì, ok. Le le cose di di le ricette di tempo fa, di qualche tempo fa funzionano ancora? Siamo sicuri?
17:52Perché se è diventato così facile diventare da utente rot, capito? Cioè il punto è che non devono entrare, il punto è che non non devi averli non devi averli nel server gli attaccanti, altrimenti già si è configurato un problema enorme per come va la security oggi.
18:12Per cui, ragazzi, boh, cioè, ci vogliono anche i trick, differenziarsi da da da da dagli altri, quindi, non lo so, le porte chiuse che si aprono quando servono, eh i server che non sono quello che sembrano, che magari si può chiedere a volte anche semplicemente a a un LLM di riscrivere una parte del parsler in modo che gli exploit non funzionano più, non funzionano più gli
18:39offset, i trigger un po' diversi.
18:42Sono tante cose che compongono la la ricetta finale, eh, però insomma sì, si apre, ma chi chi aveva un server così non può stare più tranquillo. C'è da dire che è possibile comunque a questo punto utilizzare appunto gli LM di frontiera come degli alleati continui, ovvero io se ho abbastanza token nel mio piano predispongo che
19:11Astra o Mitos o Fable in base uno a quello che ha a disposizione Opus ogni ora si vanno a fare un giro e vanno a controllare se ci sono track cè di attacco e in caso reagiscono in maniera immediata alla alla minaccia, cercando di chiuderli fuori, eh avvisandoti immediatamente, scrivendoti un messaggio su Telegram e così via. Questa è una possibilità.
19:38Eh, in questo caso io, ripeto, quando ci sono delle cose così urgenti, utilizzo.
19:44Allora, io di notte non voglio essere svegliato, piuttosto possono andare in fiamme le città, eh, però ecco, per dire un messaggio su Telegram. Io com'è che faccio in questo caso? Faccio una AP key di un bot, gli do questa AP key eh alla gente nel prompt e poi gli do l'ID del mio Telegram. eh lo user ID e quindi quello praticamente mi può scrivere come se fosse una persona quando quando vuole,
20:13che è già comunque qualcosa per metterti in guardia qualora vi fosse un problema.
20:19vi fate spedire un email banalmente, insomma, ci sono ci sono vari vari modi, però ecco, DLLM è direttamente come alleati della security che fanno, cioè che stanno lì sul posto. Voi avete un piantone, avete una che che ne so una guardia del corpo dei server che controllano attivamente che non ci siano minacce quando le minacce magari falliscono, perché poi gli attacchi a volte non avvengono in una
20:47consecuzio temporale stretta. C'è prima eh un tentativo, poi altre ondate, magari riescono ad ottenere l'accesso, iniziano a pensare a cosa fare, tu tu li becchi in quel momento e chiudi lì.
21:00Quindi molto logging, molto logging perché è molto importante che la gente riesca a ricostruire lo stato di ciò che è accaduto.
21:09Insomma, queste sono le mie ricette. Se avete se avete dei consigli, vi occupate di queste cose attivamente e pensate che ci siano delle cose che possono effettivamente nel mondo reale migliorare in maniera significativa la sicurezza, anche dei consigli non convenzionali. Questa cosa è la sicurezza attraverso lo scuramento che vi ho detto in questo video. Cioè, se voi la fate ascoltare a qualcuno che è, diciamo, della sicurezza costituita, dice "Ah, ma che figurati e l'incatenaccio deve essere sicuro, anche
21:39se io so come funziona." Sì, sti cazzi.
21:41Ripeto, il punto è ridondanza e quella è una parte di ridondanza perché toglie informazioni importanti all'attaccante, quindi non è la garanzia, ma è uno scoglio. Co?