Ο Κώδικας Φαίνεται Σωστός. Αυτό Είναι το Πρόβλημα.

Παραδίδουμε λογισμικό με AI στη ροή κάθε εβδομάδα. Είναι μέρος του πώς ένα μικρό studio στην Ελλάδα παραδίδει αυτό που παλιά απαιτούσε πολύ μεγαλύτερη ομάδα. Οπότε αυτό δεν είναι κείμενο γραμμένο από κάποιον που στέκεται απ' έξω από τα εργαλεία και κουνάει το δάχτυλο. Είναι γραμμένο από ανθρώπους που τα χρησιμοποιούν καθημερινά — και που χρειάστηκε να γίνουν προσεκτικοί σε ένα συγκεκριμένο πράγμα.

Ο κώδικας που παράγουν αυτά τα εργαλεία σχεδόν πάντα φαίνεται σωστός. Αυτό ακριβώς είναι το πρόβλημα.

Όταν ο κόσμος ανησυχεί για το AI που γράφει λογισμικό, συνήθως φαντάζεται προφανείς ανοησίες: σπασμένο, ακατάληπτο αποτέλεσμα που ένας developer θα πετούσε με την πρώτη ματιά. Η πραγματικότητα είναι πιο ανησυχητική. Το AI δεν γράφει κακό κώδικα. Γράφει πειστικό κώδικα — αποτέλεσμα που κάνει compile, περνά μια γρήγορη ανάγνωση, κάνει τέλειο demo, και βγαίνει σε παραγωγή. Και ένα σημαντικό μέρος του είναι σιωπηλά ανασφαλές με τρόπους που φαίνονται μόνο όταν κάποιος ψάξει για τρόπο εισόδου.

Η Veracode το έβαλε σε δοκιμή σε πάνω από εκατό μοντέλα. Περίπου το 45% των δειγμάτων κώδικα που παρήγαγε το AI εισήγαγε μία από τις ευπάθειες του OWASP Top 10 — της καθιερωμένης λίστας του κλάδου με τις πιο συχνές, πιο εκμεταλλεύσιμες αδυναμίες. Το δυσάρεστο: αυτό το νούμερο ελάχιστα μετακινήθηκε στους κύκλους δοκιμών από το 2025 στο 2026, ακόμα κι ενώ τα μοντέλα έγιναν δραματικά πιο ικανά σε όλα τα άλλα.

Τα παλιά λάθη, με νέα ταχύτητα

Δεν είναι εξωτικά, φουτουριστικά bugs. Είναι τα ίδια λάθη που κάνει ο κλάδος εδώ και είκοσι χρόνια — cross-site scripting, SQL injection, μυστικά hard-coded εκεί που δεν έπρεπε ποτέ. Αυτό που άλλαξε είναι ο όγκος και η ταχύτητα. Μια ανάλυση που σύγκρινε κώδικα με τη βοήθεια AI έναντι κώδικα γραμμένου από ανθρώπους βρήκε περίπου 2,74 φορές περισσότερες ευπάθειες στο αποτέλεσμα του AI. Η μηχανή δεν εφηύρε νέους τρόπους να είναι ανασφαλής. Βιομηχανοποίησε τους παλιούς.

Η παγίδα της ταχύτητας

Εδώ είναι το σημείο που εύκολα ξεφεύγει, και μετράει περισσότερο: η ταχύτητα που κάνει αυτά τα εργαλεία να αξίζουν είναι το ίδιο πράγμα που τα κάνει επικίνδυνα.

Ομάδες που υιοθετούν AI assistants αναφέρουν ότι παράγουν κώδικα αρκετές φορές γρηγορότερα — και μετά βρίσκουν περίπου δεκαπλάσια ζητήματα ασφαλείας παρακάτω. Οι κύκλοι review τραβάνε. Οι διορθώσεις μετά το merge στοιβάζονται. Νιώθεις πιο γρήγορος τη Δευτέρα και το πληρώνεις σιωπηλά την Πέμπτη.

Και ο ανθρώπινος παράγοντας το κάνει χειρότερο. Σε μια ελεγχόμενη μελέτη, οι developers που χρησιμοποιούσαν AI assistant όχι μόνο έγραψαν λιγότερο ασφαλή κώδικα — ήταν και πιο σίγουροι ότι ήταν ασφαλής. Αυτή είναι η παγίδα σε μία πρόταση. Το αποτέλεσμα φαίνεται τόσο τελειωμένο που σταματάμε να εφαρμόζουμε τον έλεγχο που θα δίναμε στη δική μας δουλειά.

Το εργαλείο δεν παράγει απλώς κώδικα. Παράγει την αίσθηση ότι τελείωσες.

Slopsquatting: μια απειλή που δεν υπήρχε πριν τρία χρόνια

Υπάρχει και ένα πρόβλημα που σχεδόν κανείς εκτός των κύκλων ασφαλείας δεν έχει ακούσει. Έχει ένα ασόβαρο όνομα — slopsquatting — και έναν πολύ σοβαρό μηχανισμό.

Τα μοντέλα AI δεν γράφουν μόνο αδύναμο κώδικα. Μερικές φορές εφευρίσκουν πράγματα που δεν υπήρξαν ποτέ. Ζήτησέ του να γράψει ένα script και μπορεί με σιγουριά να κάνει import ένα software package που δεν υπάρχει — ένα όνομα που ακούγεται εύλογο και ουσιαστικά το επινόησε. Ερευνητές δοκίμασαν δεκαέξι μοντέλα σε περίπου τρία τέταρτα του εκατομμυρίου δειγμάτων κώδικα και βρήκαν ότι περίπου ένα στα πέντε ανέφερε ένα package που δεν ήταν αληθινό.

Από μόνο του, αυτό είναι απλώς ένα αποτυχημένο build. Το επικίνδυνο μέρος είναι το μοτίβο: τα μοντέλα δεν παραισθάνονται στην τύχη. Επινοούν τα ίδια ψεύτικα ονόματα, ξανά και ξανά. Οι επιτιθέμενοι το πρόσεξαν. Το παιχνίδι είναι φθηνό και υπομονετικό — παρακολούθησε ποια ονόματα package παραισθάνονται συστηματικά τα εργαλεία AI, καταχώρισε αυτά ακριβώς τα ονόματα στα δημόσια μητρώα λογισμικού, και γέμισέ τα με malware. Μετά περίμενε. Κάθε developer που εμπιστεύεται την πρόταση και εγκαθιστά το package τρέχει πλέον τον κώδικα του επιτιθέμενου.

Αυτό δεν είναι υποθετικό. Ένα παραισθητικό package που μιμούνταν ένα αληθινό εργαλείο συγκέντρωσε σιωπηλά πάνω από τριάντα χιλιάδες λήψεις σε τρεις μήνες — με τη βοήθεια του ότι η εσφαλμένη εντολή εγκατάστασής του αντιγράφηκε σε έμπιστη τεκμηρίωση, δίνοντάς του μια νομιμότητα που ποτέ δεν κέρδισε.

Σκέψου τι είναι καινούριο εδώ. Οι παραδοσιακές επιθέσεις supply-chain βασίζονται σε τυπογραφικά λάθη και τύχη. Το slopsquatting δεν βασίζεται σε κανένα από τα δύο.

Είναι ένας βρόχος ανατροφοδότησης όπου η εμπιστοσύνη μας στο εργαλείο είναι η ευπάθεια — όσο περισσότερο στηριζόμαστε στο AI για να καλύψει τα κενά, τόσο πιο αξιόπιστα μας δείχνει την πόρτα του επιτιθέμενου.

Τι κάνεις λοιπόν στην πράξη

Το λάθος μάθημα — και το εύκολο — είναι «μην χρησιμοποιείς AI». Αυτό δεν είναι ούτε ρεαλιστικό ούτε ειλικρινές. Σχεδόν κάθε developer εν ζωή χρησιμοποιεί ήδη αυτά τα εργαλεία, μαζί κι εμείς. Το να τα απαγορεύσεις είναι φαντασίωση.

Το σωστό μάθημα είναι ότι το AI μετακίνησε σιωπηλά τη δουλειά. Για δεκαετίες, το δύσκολο μέρος της κατασκευής λογισμικού ήταν να το γράψεις. Τώρα το γράψιμο είναι φθηνό, και το δύσκολο μέρος είναι να το κρίνεις — να διαβάζεις κριτικά, να πιάνεις το ελάττωμα που δεν ανέδειξε το demo, να επαληθεύεις ότι το package που πας να εγκαταστήσεις είναι αληθινό, να ξέρεις ποιες γωνίες δεν κόβονται. Η σπάνια δεξιότητα δεν είναι πια να πληκτρολογείς κώδικα. Είναι η πειθαρχία γύρω από τη μηχανή: να σαρώνεις ό,τι παράγει, να κλειδώνεις και να ελέγχεις τα dependencies, και να αρνείσαι να βγάλεις κάτι σε παραγωγή μόνο και μόνο επειδή φαίνεται τελειωμένο.

Αυτό σημαίνει πλέον «production-grade». Παλιά υπονοούσε κάτι για τον κόπο — ότι ένας άνθρωπος ίδρωσε πάνω σε κάθε γραμμή. Τώρα υπονοεί κάτι για την κρίση — ότι κάποιος με την εμπειρία να είναι καχύποπτος όντως κοίταξε. Τα εργαλεία έγιναν γρηγορότερα. Ο πήχης δεν έγινε ευκολότερος. Αν μη τι άλλο, το κομμάτι που ξεχωρίζει το αληθινό λογισμικό από το πειστικό λογισμικό είναι πιο ανθρώπινο από ποτέ.

Η μηχανή θα συνεχίσει να γράφει κώδικα που φαίνεται σωστός. Το να αποφασίζεις αν όντως είναι — αυτή είναι ακόμα η δουλειά. Και πάντα θα είναι.

Πηγές & περαιτέρω ανάγνωση

Veracode — κίνδυνοι ασφαλείας σε κώδικα παραγόμενο από AI (OWASP Top 10 και το νούμερο 2,74×): https://www.veracode.com/blog/ai-generated-code-security-risks/

FOSSA — slopsquatting και παραισθήσεις AI σε packages: https://fossa.com/blog/slopsquatting-ai-hallucinations-new-software-supply-chain-risk/

Trend Micro — slopsquatting όταν τα AI agents παραισθάνονται κακόβουλα packages: https://www.trendmicro.com/vinfo/us/security/news/cybercrime-and-digital-threats/slopsquatting-when-ai-agents-hallucinate-malicious-packages

Cloud Security Alliance — σημείωμα έρευνας για τον κίνδυνο supply-chain από AI: https://labs.cloudsecurityalliance.org/research/csa-research-note-slopsquatting-ai-supply-chain-20260419-csa/

• AI
• software engineering
• ασφάλεια
• supply chain