Η Anthropic, η OpenAI, η Google και η xAI κυκλοφορούν νέα μοντέλα αρκετές φορές τον χρόνο, και κάθε κυκλοφορία συνοδεύεται από benchmarks που την ανακηρύσσουν πρώτη. Αν προσθέτετε AI σε ένα προϊόν ή μια διαδικασία, είναι λογικό να αναρωτηθείτε ποιο είναι «το καλύτερο».
Η πιο χρήσιμη ερώτηση είναι: ποιο είναι το καλύτερο για αυτή τη συγκεκριμένη δουλειά, σε αυτόν τον όγκο, με αυτά τα δεδομένα; Συχνά η απάντηση είναι διαφορετική για διαφορετικά κομμάτια του ίδιου έργου. Δείτε πώς προσεγγίζουμε την επιλογή.
Ξεκινήστε από τη δουλειά, όχι από το brand
Οι περισσότερες επιχειρηματικές χρήσεις της AI ανήκουν σε λίγα είδη εργασίας, και το καθένα ανταμείβει διαφορετικά δυνατά σημεία:
- Ταξινόμηση και εξαγωγή στοιχείων. Κατηγοριοποίηση emails, ανάγνωση πεδίων από τιμολόγια, ετικέτες σε προϊόντα. Μεγάλος όγκος, σχετικά απλές εργασίες. Μικρά, γρήγορα και οικονομικά μοντέλα συνήθως τα πάνε καλά.
- Απαντήσεις από το περιεχόμενό σας. Βοηθοί για πελάτες και προσωπικό, αναζήτηση σε βάση γνώσης. Εδώ μετράει περισσότερο να ακολουθεί οδηγίες, να μένει πιστό στις πηγές και να παραδέχεται όταν η απάντηση δεν υπάρχει.
- Συλλογισμός και γραφή. Σύνταξη προτάσεων, σύγκριση συμβάσεων, σχεδιασμός εργασιών σε πολλά βήματα. Εδώ τα μεγαλύτερα μοντέλα αξίζουν το υψηλότερο κόστος τους.
- Ενέργειες μέσα από εργαλεία. Agents που ελέγχουν διαθεσιμότητα, ενημερώνουν ένα CRM ή τρέχουν μια ροή εργασίας. Η αξιοπιστία με τα εργαλεία και τα δομημένα αποτελέσματα μετράει περισσότερο από την ευφράδεια.
Τι να συγκρίνετε
- Ποιότητα στα δικά σας παραδείγματα. Τα δημόσια benchmarks είναι αφετηρία, όχι απάντηση. Ένα μοντέλο στην κορυφή μιας κατάταξης μπορεί να δυσκολεύεται με τα ονόματα των προϊόντων σας ή με τα ελληνικά των πελατών σας.
- Γλώσσα. Αν οι πελάτες σας γράφουν ελληνικά, δοκιμάστε στα ελληνικά. Η ποιότητα διαφέρει περισσότερο μεταξύ μοντέλων στις μικρότερες γλώσσες απ' ό,τι στα αγγλικά.
- Ταχύτητα. Ένας βοηθός συνομιλίας πρέπει να αρχίζει να απαντά σε ένα με δύο δευτερόλεπτα. Μια νυχτερινή εργασία σε παρτίδες όχι.
- Κόστος στον δικό σας όγκο. Οι τιμές είναι ανά ποσότητα κειμένου και διαφέρουν πολύ ανάλογα με το μέγεθος του μοντέλου. Πολλαπλασιάστε με τον πραγματικό μηνιαίο όγκο πριν αποφασίσετε.
- Πόσο μπορεί να διαβάσει με τη μία. Κάποιες εργασίες χρειάζονται μεγάλα έγγραφα σε ένα αίτημα, άλλες μόνο μια παράγραφο.
- Διαχείριση δεδομένων. Ελέγξτε τους όρους του παρόχου για επαγγελματική χρήση: αν τα δεδομένα σας χρησιμοποιούνται για εκπαίδευση, για πόσο διατηρούνται και πού μπορούν να επεξεργαστούν. Για ορισμένους πελάτες, η επεξεργασία στην ΕΕ ή ένα μοντέλο σε δική τους υποδομή είναι απαίτηση.
Δοκιμάστε με ένα μικρό σετ πραγματικών περιπτώσεων
Πριν επιλέξουμε, φτιάχνουμε ένα σετ δοκιμών: 30 έως 100 πραγματικά παραδείγματα από τη δουλειά του πελάτη, το καθένα με το πώς μοιάζει μια καλή απάντηση. Περνάμε τα υποψήφια μοντέλα από αυτό και συγκρίνουμε ποιότητα, ταχύτητα και κόστος δίπλα-δίπλα. Χρειάζεται μέρες, όχι εβδομάδες, και αντικαθιστά τις απόψεις με στοιχεία.
Το ίδιο σετ συνεχίζει να αποδίδει και αργότερα. Όταν ένας πάροχος κυκλοφορεί νέο μοντέλο, το ξανατρέχουμε και ξέρουμε μέσα σε μία ώρα αν αξίζει η αλλαγή.
Γιατί μένουμε ανεξάρτητοι από πάροχο
Τα μοντέλα προσπερνούν το ένα το άλλο. Αυτό που κερδίζει σήμερα μπορεί να είναι δεύτερο σε έξι μήνες, και οι τιμές συνήθως πέφτουν. Γι' αυτό χτίζουμε τα κομμάτια AI ενός έργου έτσι ώστε να μπορούμε να αλλάξουμε μοντέλο χωρίς να ξαναγράψουμε το προϊόν, και συχνά χρησιμοποιούμε περισσότερα από ένα: ένα μικρό μοντέλο για να ταξινομεί και να δρομολογεί, ένα μεγαλύτερο για τις δύσκολες περιπτώσεις.
Αυτό προστατεύει και εσάς. Αν ένας πάροχος αλλάξει όρους, ανεβάσει τιμές ή έχει διακοπή λειτουργίας, έχετε εναλλακτική.
Και τα μοντέλα ανοιχτού κώδικα;
Τα μοντέλα ανοιχτών βαρών μπορούν να τρέξουν σε υποδομή που ελέγχετε εσείς, κάτι που μετράει όταν τα δεδομένα δεν πρέπει να βγουν από το περιβάλλον σας. Το αντίτιμο είναι ότι αναλαμβάνετε τη φιλοξενία και τη συντήρηση, και τα μεγαλύτερα εμπορικά μοντέλα εξακολουθούν να προηγούνται στις πιο δύσκολες εργασίες. Για πολλές επιχειρήσεις, ένα εμπορικό API με τις σωστές ρυθμίσεις δεδομένων είναι η πρακτική επιλογή· για κάποιες, ένα μοντέλο σε δική τους υποδομή είναι η μόνη αποδεκτή.
Με λίγα λόγια
- Ορίστε τη δουλειά και πώς μοιάζει ένα καλό αποτέλεσμα.
- Επιλέξτε δύο ή τρία μοντέλα που ταιριάζουν στη δουλειά, στη γλώσσα και στις απαιτήσεις σας για τα δεδομένα.
- Δοκιμάστε τα στα δικά σας παραδείγματα και συγκρίνετε ποιότητα, ταχύτητα και κόστος.
- Χτίστε έτσι ώστε να μπορείτε να αλλάξετε, και ξαναδοκιμάστε όταν βγαίνουν νέα μοντέλα.
Δουλεύουμε με μοντέλα από Anthropic, OpenAI, xAI και Google, καθώς και με μοντέλα ανοιχτού κώδικα, και επιλέγουμε ανά εργασία. Δείτε τις υπηρεσίες AI ή πείτε μας τι θέλετε να αυτοματοποιήσετε.