Κεντρική εικόνα: «Κοιτάζοντας στο μέλλον, μπορώ να δω πολλά πλεονεκτήματα που θα φέρει η τεχνητή νοημοσύνη. Οι δημοσιογράφοι θα διαπιστώσουν ότι η τεχνητή νοημοσύνη τούς δίνει τεράστιες δυνατότητες σε όλα τα στάδια παραγωγής της είδησης: από τον εντοπισμό, μέχρι την επιμέλειά της», αναφέρει ο Κρίσνα Μπάρατ.
Μετάφραση, επιμέλεια: Μαρίνα Παπαναστασίου
Ποια είναι τα πιθανά οφέλη της τεχνητής νοημοσύνης για τη δημοσιογραφία και τους δημοκρατικούς θεσμούς; Πώς μπορεί να εκδημοκρατιστεί η ίδια η τεχνητή νοημοσύνη; Στα ερωτήματα αυτά απαντάει ο Krishna Bharat, σε συνέντευξη που έδωσε στο Global Editors Network (GEN) ενόψει του Συνεδρίου του GEN στην Αθήνα (13-15 Ιουνίου 2019).
– Global Editors Network: Ο τομέας της τεχνητής νοημοσύνης έχει πρόσφατα γνωρίσει σημαντικές εξελίξεις, όπως είναι η αυτόματη επαλήθευση περιεχομένου και η συγκέντρωση ειδήσεων. Μερικοί βλέπουν την τεχνητή νοημοσύνη και τις πιθανές εφαρμογές της με θετικό μάτι, ενώ άλλοι τη θεωρούν προβληματική. Υπάρχει ενδιάμεση οδός; Και ποια, κατά τη γνώμη σας, είναι εκείνα τα ζητήματα για τα οποία θα πρέπει ή δεν θα πρέπει να ανησυχούν οι δημοσιογράφοι;
– Krishna Bharat: Οι καινοτομίες που έχει επιφέρει η τεχνητή νοημοσύνη αφορούν μεν στην επικοινωνία και το εμπόριο εν γένει, αλλά έχουν πλέον επεκταθεί και στους ειδησεογραφικούς οργανισμούς, επηρεάζοντας το επιχειρηματικό τους μοντέλο και το οικοσύστημα της πληροφορίας – με θετικές και αρνητικές συνέπειες. Η διαμόρφωση προφίλ του χρήστη και το στοχευμένο περιεχόμενο δίνουν τη δυνατότητα προσωποποιημένων υπηρεσιών, ωφελώντας χρήστες και διαφημιστές. Οι στοχευμένες υπηρεσίες, ωστόσο, μπορεί να είναι αιτία χειραγώγησης των ευάλωτων χρηστών, τροφοδοτώντας τους με παραπλανητικό περιεχόμενο και αποκρύπτοντας το νόμιμο. Το πρόβλημα βρίσκεται στο επιχειρηματικό μοντέλο των μέσων κοινωνικής δικτύωσης, για το οποίο οι σημαντικότερες μετρήσεις είναι η ταχύτητα εξάπλωσης του περιεχομένου και ο χρόνος προσοχής που αφιερώνει ο χρήστης σε αυτό. Η τεχνητή νοημοσύνη μεγιστοποιεί τις μετρήσεις αυτές, αυξάνοντας τα φαινόμενα παραπληροφόρησης και την εξάπλωσή τους.
Κοιτάζοντας στο μέλλον, μπορώ να δω πολλά πλεονεκτήματα που θα φέρει η τεχνητή νοημοσύνη στις αίθουσες σύνταξης, όπως οι περικοπές εξόδων, χωρίς όμως να επηρεάζεται η αναγνωσιμότητα ή η ποιότητα του ειδησεογραφικού περιεχομένου. Οι δημοσιογράφοι θα διαπιστώσουν ότι η τεχνητή νοημοσύνη τούς δίνει τεράστιες δυνατότητες σε όλα τα στάδια παραγωγής της είδησης: από τον εντοπισμό και την ανάλυσή της, μέχρι τη μετάδοση και την επιμέλειά της. Με τη βελτίωση της τεχνολογίας σύνθεσης και αναγνώρισης λόγου και της δυνατότητας διαρκώς αναπροσαρμοζόμενου με τις ανάγκες του χρήστη περιεχομένου πολυμέσων, οι ειδήσεις μέλλει να γίνουν πιο ενδιαφέρουσες, πιο διαδραστικές, πιο εξατομικευμένες.
Το κύριο μέλημα των ειδησεογραφικών οργανισμών, ειδικά των μικρών, θα είναι η εξασφάλιση επιστημονικού προσωπικού με εξειδίκευση στα δεδομένα, στους μηχανικούς πόρους και στα πρότυπα τεχνητής νοημοσύνης. Θα πρέπει να βρούμε τρόπους να συγκεντρώσουμε όλα αυτά τα στοιχεία και να κάνουμε πιο δημοκρατική και πιο ανοιχτή τη δυνατότητα πρόσβασης και την τεχνογνωσία σε όλους τους τομείς της δημοσιογραφίας.
– Είναι δικαιολογημένες οι ανησυχίες περί αδυναμίας να ελέγξουμε τις εξελίξεις της τεχνητής νοημοσύνης και, αν ναι, πού θα πρέπει να επικεντρώσουμε τις ρυθμιστικές μας προσπάθειες;
– Τα σύγχρονα συστήματα βαθιάς μάθησης είναι γενικής χρήσης και εφαρμόζονται σε όλους τους τομείς, συχνά χωρίς απόλυτη διαφάνεια. Αυτό που μπορούμε να κάνουμε είναι να απαιτήσουμε υψηλό επίπεδο διαφάνειας τόσο στο πεδίο της έρευνας όσο και της πρακτικής. Το να γνωρίζουμε ποια πρότυπα [σ.σ. τεχνητής νοημοσύνης] χρησιμοποιούνται και πώς έχουν εκπαιδευθεί θα χρησίμευε στην αντιμετώπιση ζητημάτων που έχουν να κάνουν με πρακτικές μεροληψίας και παραβίασης της ιδιωτικότητας. Φυσικά, οι περισσότερες εταιρείες θα αντιδράσουν, επικαλούμενες το εμπορικό απόρρητο, συνεπώς, οι διαπραγματεύσεις των κυβερνήσεων θα πρέπει να αφορούν σε νόμιμα ζητήματα. Ελλοχεύει, επίσης, ο κίνδυνος του αθέμιτου ανταγωνισμού. Εάν, για παράδειγμα, μια εταιρεία χρησιμοποιεί ένα σύστημα τεχνητής νοημοσύνης που βασίζεται στο μερίδιο αγοράς της εταιρείας, αντλώντας την ισχύ του από το μέγεθος της βάσης των χρηστών της εταιρείας, τότε αυτή θα κυριαρχήσει στην αγορά. Θα είναι, επομένως, δύσκολη η είσοδος νέων παικτών στην αγορά.
Ο ιδρυτής της Google News, Κρίσνα Μπάρατ.
– Πόσο ρεαλιστικός είναι ο εκδημοκρατισμός της τεχνητής νοημοσύνης, δεδομένης της μονοπωλιακής τάσης της αγοράς;
– Δυστυχώς, οι δυνάμεις της αγοράς ευνοούν το νικητή, ο οποίος κάνει χρήση όλων των προτύπων τεχνητής νοημοσύνης. Μια μεγάλη εταιρεία που βάζει το χέρι βαθιά στην τσέπη, μπορεί όχι μόνο να χρησιμοποιήσει την καλύτερη τεχνολογία τεχνητής νοημοσύνης, αλλά και να αναπτύξει ανώτερα πρότυπα τεχνητής νοημοσύνης λόγω της μεγάλης βάσης χρηστών/πελατών που διαθέτει. Έτσι, ανατροφοδοτεί συνεχώς τις πληροφορίες που της χρειάζονται για να ενισχύσει τη θέση της και, τελικά, να συντρίψει τον ανταγωνισμό. Επίσης, υπάρχει η δυνατότητα αύξησης των κλικ μέσω της χρήσης προτύπων που έχουν εκπαιδευθεί βάσει της αλληλεπίδρασης των δεδομένων των χρηστών. Αυτή η δυνατότητα μπορεί να εφαρμοστεί και σε επίπεδο κρατών, με τις κυβερνήσεις να ενθαρρύνουν συμμαχίες προτύπων τεχνητής νοημοσύνης, προκειμένου να γίνουν ανταγωνιστικές σε διεθνές επίπεδο.
Ο εκδημοκρατισμός [σ.σ. της τεχνητής νοημοσύνης] μπορεί να συμβεί μόνο εάν επιβληθεί σε ορισμένο βαθμό. Για παράδειγμα, οι κυβερνήσεις μπορεί να απαιτήσουν διαφάνεια στον τρόπο εκπαίδευσης του προτύπου ή να εφαρμόσουν καθεστώς αδειοδότησης, έναντι ενός λογικού ποσού, σε πρότυπα με επιχειρηματική κρισιμότητα. Πολλές εταιρείες θα μπορούσαν να αυτο-οργανωθούν σε συνεργατικές ομάδες τεχνητής νοημοσύνης, των οποίων τα μέλη θα δεσμεύονται να δημιουργούν πρότυπα και σύνολα δεδομένων, ανοιχτά και ελεύθερα ή που να υπόκεινται σε ορισμένους ήπιους όρους χορήγησης άδειας. Η πρακτική αυτή θα μπορούσε να είναι δημόσια στο κοινό, κερδίζοντας έτσι την εμπιστοσύνη του, όπως συμβαίνει και με τις ετικέτες προϊόντων που φέρουν την πιστοποίηση του Fair Trade. Φαίνεται ότι η Silicon Valley είναι, προς το παρόν, θετική στην προοπτική συνεργασίας, δείχνοντας προτίμηση στο λογισμικό ανοικτού κώδικα και για την τεχνολογία και για τα δεδομένα. Το θετικό είναι ότι χρησιμοποιεί στο έπακρο τις δυνατότητες της τεχνολογίας. Το πρόβλημα θα προκύψει εάν αρχίσουν να λειτουργούν υπογείως οι καλύτερες τεχνολογίες και οι άνθρωποι που ασχολούνται με αυτές.
Αίθουσες σύνταξης με ψηφιακούς ρεπόρτερ
– Οι πρόσφατες εφαρμογές της τεχνητής νοημοσύνης στη δημοσιογραφία αφορούν στην αυτόματη γραφή, συλλογή, διανομή ή επαλήθευση ειδήσεων. Ποιες άλλες εφαρμογές προβλέπετε να υπάρξουν στο μέλλον;
– Μια σημαντική τεχνολογία υψηλής ακριβείας την οποία αναμένω με ενδιαφέρον είναι η αναγνώριση και σύνθεση λόγου με εξειδίκευση ανά τομέα. Η τεχνολογία αυτή θα δώσει τη δυνατότητα στα συστήματα τεχνητής νοημοσύνης να αλληλεπιδρούν με τους ανθρώπους, όπως ακριβώς κάνουν και οι δημοσιογράφοι. Οι νοήμονες πράκτορες (intelligent agents) θα μπορούν να παρευρίσκονται σε συζητήσεις και συνεντεύξεις, προσφέροντας τη βοήθειά τους και τις ιδέες τους σε πραγματικό χρόνο. Εργασίες όπως η διενέργεια πολλών συνεντεύξεων μπορούν να ανατεθούν σε έναν ψηφιακό ρεπόρτερ. Το ειδησεογραφικό περιεχόμενο, επίσης, θα βασιστεί σε ένα πιο διαδραστικό μοντέλο, μέσω φωνής και βίντεο που έχει προκύψει από σύνθεση (synthesized video). Η τεχνολογία αυτή θα παράγει αποτελέσματα με πιο φυσικό και ελκυστικό τρόπο και θα αντικαταστήσει πολλές υπάρχουσες μορφές.
Ένας άλλος κλάδος ανάπτυξης θα αφορά στη δεξαμενή γνώσης ενός ειδησεογραφικού οργανισμού. Οι αίθουσες σύνταξης θα έχουν τη δυνατότητα να συγκεντρώσουν υλικό από συγκεκριμένα πεδία γνώσης χιλιάδων ειδικών και δημοσιογράφων, εντός και εκτός των οργανισμών, αξιοποιώντας το ήδη υπάρχον δημοσιογραφικό περιεχόμενο ή αυτό που βρίσκεται στο στάδιο δημιουργίας. Οι νέες πληροφορίες θα οργανώνονται και θα συσχετίζονται με τους αντίστοιχους τομείς γνώσης, ενισχύοντας παράλληλα τις δυνατότητες έρευνας. Η τεχνολογία αυτή θα δημιουργήσει ευφυέστερες υπηρεσίες τεχνητής νοημοσύνης, με εξειδίκευση ανά τομέα, οι οποίες θα κατανοούν τις έννοιες του περιεχόμενου που εξετάζεται, προς όφελος και των δημοσιογράφων και των χρηστών.
– Όταν εδραιωθεί η χρήση της τεχνητής νοημοσύνης στις αίθουσες σύνταξης, ποιος θα είναι ο ρόλος των δημοσιογράφων στο μέλλον και πώς θα διαφέρουν οι δεξιότητές τους από αυτές των σημερινών δημοσιογράφων;
– Θεωρώ ότι η τεχνητή νοημοσύνη θα προσφέρει τεράστιες δυνατότητες ανάπτυξης στους δημοσιογράφους. Δεν ανησυχώ ότι θα μείνουν χωρίς δουλειά, υπό την έννοια ότι πάντα θα χρειάζεται κάτι παραπάνω από αυτό που κάνουν. Νομίζω ότι η ανάπτυξη της τεχνολογίας θα βελτιώσει τη δημοσιογραφία, διευρύνοντας τη θεματολογία και εμβαθύνοντας στο περιεχόμενο. Η φαρέτρα δεξιοτήτων των δημοσιογράφων θα εμπλουτιστεί λόγω της ανάγκης για περισσότερη αλληλεπίδραση με αυτόνομες υπηρεσίες και πρότυπα τεχνητής νοημοσύνης. Ταυτόχρονα, διάφορες εργασίες που απαιτούν λεπτομερή φροντίδα (όπως η σελιδοποίηση, η διόρθωση κειμένων, η επεξεργασία βίντεο κ.λπ.) μπορούν να ανατεθούν σε ρομπότ και οι άνθρωποι να δίνουν τις απαιτούμενες κατευθύνσεις.
Προσκλήσεις, δυνατότητες και απειλές για τη δημοκρατική διαδικασία
Στην Κίνα σημειώνεται αύξηση των επενδυτικών κεφαλαίων που προορίζονται για την ανάπτυξη της τεχνητής νοημοσύνης, ειδικότερα όσον αφορά την αναγνώριση προσώπου και τα μικροκυκλώματα τεχνητής νοημοσύνης.
– Πέρα από τη δημοσιογραφία, πώς μπορεί η τεχνητή νοημοσύνη να συνεισφέρει στη δημοκρατική διαδικασία;
– Με πολλούς τρόπους. Πρώτον, η τεχνητή νοημοσύνη μπορεί να μας βοηθήσει στο να εξακριβώσουμε διάφορους ισχυρισμούς, να εντοπίσουμε παραπλανητικές ειδήσεις που αναπαράγονται από τα μέσα κοινωνικής δικτύωσης και να επαληθεύσουμε το δημοσιογραφικό περιεχόμενο. Έτσι προστατεύεται η αξιοπιστία της δημοσιογραφίας και καταπολεμάται η παραπληροφόρηση.
Η τεχνητή νοημοσύνη μπορεί, επίσης, να ενισχύσει το ρόλο της δημοσιογραφίας δεδομένων με δύο τρόπους: με την εξαγωγή συμπερασμάτων που προκύπτουν από τα δεδομένα και με τη διενέργεια εκτεταμένων δημοσκοπήσεων και συλλογής δεδομένων. Με τον τρόπο αυτό, η δημοσιογραφική πρακτική φεύγει από τη ρηχή και αποσπασματική παράθεση των γεγονότων και γίνεται πιο αξιόπιστη, βασιζόμενη στην αξία των δεδομένων.
Σκοπός της δημοσιογραφίας είναι η πιστή παρουσίαση της σύγχρονης κατάστασης στους πολίτες, προκειμένου αυτοί να λαμβάνουν ενσυνείδητες αποφάσεις, να ψηφίζουν με ορθή κρίση και να υποχρεώνουν τις κυβερνήσεις να λογοδοτούν απέναντί τους. Τα συστήματα τεχνητής νοημοσύνης μπορούν να προάγουν αυτό το σκοπό με ακρίβεια και σε ευρεία κλίμακα. Επίσης, δεν επηρεάζονται από την ανθρώπινη μεροληψία, τις φυσικές απειλές και τη διαφθορά. Σε ορισμένες περιπτώσεις, ένα σύστημα τεχνητής νοημοσύνης που συγκεντρώνει πληροφορίες θα μπορούσε να παρουσιάσει τα γεγονότα με πιο αντικειμενικό και αξιόπιστο τρόπο σε σχέση με κάποια συμβατική πηγή πληροφόρησης, αρκεί βέβαια να λειτουργεί με όρους διαφάνειας.
– Στις ΗΠΑ και την Κίνα οι εφαρμογές της τεχνητής νοημοσύνης έχουν εξελιχθεί σημαντικά, αλλά σε διαφορετικό πλαίσιο. Ποιες είναι οι διαφορές και ποιες οι πιθανές συνέπειες αυτών των διαφορών για τον τομέα της τεχνητής νοημοσύνης εν γένει;
– Οι ΗΠΑ εξακολουθούν να κυριαρχούν στον τομέα της έρευνας και της ανάπτυξης όσον αφορά στην τεχνητή νοημοσύνη. Ωστόσο, στην Κίνα σημειώνεται ραγδαία αύξηση των επενδυτικών κεφαλαίων που προορίζονται για την ανάπτυξη της τεχνητής νοημοσύνης, ειδικότερα όσον αφορά στην αναγνώριση προσώπου και τα μικροκυκλώματα τεχνητής νοημοσύνης. Οι τεχνολογίες αυτές έχουν στρατηγικό ενδιαφέρον για την κινεζική κυβέρνηση, η οποία είναι και καταναλωτής και εξαγωγέας συστημάτων παρακολούθησης. Η επιτυχία της τεχνητής νοημοσύνης εξαρτάται από την ποιότητα των μηχανημάτων εκπαίδευσης και εξόρυξης μεγάλου όγκου χαρακτηρισμένων δεδομένων. Η Κίνα κατέχει καλή θέση και στους δυο αυτούς τομείς. Το ίδιο, όμως, συμβαίνει και με άλλες χώρες που διαθέτουν μεγάλες αγορές.
Μπορούμε να ελπίζουμε ότι η τεχνητή νοημοσύνη θα συνεχίσει να αναπτύσσεται ανοιχτά μέσω της ανταλλαγής καλών πρακτικών και τεχνολογίας, αλλά αυτό δεν αρκεί. Τα πρότυπα τεχνητής νοημοσύνης είναι πολύτιμα στοιχεία που μπορούν να συλλεχθούν και να αξιοποιηθούν, για παράδειγμα, στον τομέα της πυρηνικής τεχνολογίας. Έτσι, θα μπορούσαν να γίνουν η επόμενη κούρσα εξοπλισμών, με περιορισμούς στη συσσώρευση και στις εξαγωγές τους, γεγονός που θα μπορούσε να προκαλέσει ανισότητες σε εθνικό και διακρατικό επίπεδο.
– Ενόψει των αλλαγών στη νομοθεσία της Ε.Ε. για την πνευματική ιδιοκτησία στο ψηφιακό περιβάλλον, ποια είναι η γνώμη σας για το Άρθρο 11 και τον αντίκτυπό του στις πλατφόρμες συσσώρευσης ειδήσεων;
– Όπως έχουν παρατηρήσει και άλλοι, το Άρθρο 11 συνιστά εσφαλμένη νομοθεσία που θα βλάψει τον τομέα της ειδησεογραφίας. Παρερμηνεύει τον τρόπο με τον οποίο λειτουργεί η λογική της οικονομίας των συνδέσμων στο ανοικτό διαδίκτυο. Είναι πλέον κοινή παραδοχή μεταξύ των εκδοτών του διαδικτύου ότι η πρόσβαση στην αρθρογραφία από ιστοτόπους και μηχανές αναζήτησης μέσω ενός τίτλου και ενός μικρού αποσπάσματος του άρθρου, είναι ο καλύτερος τρόπος να αποτιμηθεί χρηματικά η κυκλοφορία ενός μέσου. Δοκιμές έχουν δείξει ότι χωρίς αυτή την πρακτική η κυκλοφορία μειώνεται.
Η διαφημιστική αγορά στο διαδίκτυο, η οποία ανέρχεται σε πολλά δισεκατομμύρια ευρώ, αποτελεί απόδειξη ότι οι σύνδεσμοι με αυτή τη μορφή ωφελούν περισσότερο το στόχο παρά την πηγή. Παρόλα αυτά, το προνόμιο αυτό της ανακατεύθυνσης της κυκλοφορίας στον ιστότοπο του εκδότη, η Ε.Ε. προτιμά να το πληρώνουν όσοι αναρτούν συνδέσμους με ειδησεογραφικό περιεχόμενο και ένα μικρό απόσπασμα από αυτό.
Κανείς δεν περιμένει ότι οι πλατφόρμες και οι μηχανές αναζήτησης θα πληρώνουν. Και αν το κάνουν για ειδήσεις (μερικές από τις οποίες είναι χαμηλής ποιότητας) θα πρέπει να το κάνουν και για κάθε άλλη κατηγορία περιεχομένου (επιστημονικού, νομικού, εκπαιδευτικού κ.λπ.). Λογικό θα είναι να μειωθούν οι αναρτήσεις συνδέσμων, με κατακόρυφη πτώση της κυκλοφορίας του ειδησεογραφικού περιεχομένου, γεγονός που θα επιφέρει άδικο πλήγμα στις μικρές και μεσαίες εκδοτικές επιχειρήσεις και στο δικαίωμα πρόσβασης στην ενημέρωση στις χώρες της Ε.Ε.
Πλέον δε θα μπορεί κάποιος να αναζητά και να βρίσκει ειδήσεις, η εκδοτική δραστηριότητα θα αποθαρρυνθεί, με συνέπεια να απειληθεί η πολυφωνία των μέσων και η δυνατότητα των δημοσιογράφων να κάνουν έρευνα πριν δημοσιεύσουν κάτι ή να αποτιμούν χρηματικά το περιεχόμενο που παράγουν. Οι μεγάλοι εκδότες που πίεσαν για την εφαρμογή του Άρθρου 11* μπορούν να προσβλέπουν στη συντριβή των μικρότερων εκδοτών και στη συρρίκνωση του ανταγωνισμού. Αν, όμως, συμβεί κάτι τέτοιο, θα έχει τρομακτικό κόστος για τις χώρες τους και για τη δημοκρατία.
* Το περιβόητο Άρθρο 11, που αφορά στην προστασία των εκδόσεων τύπου στο διαδίκτυο (το επονομαζόμενο και ως «Φόρος του Συνδέσμου» ή Φόρος του Αποκόμματος, ή Δικαίωμα του Εκδότη), παρέχει τη δυνατότητα στους εκδότες να απαιτούν αμοιβή από τις πλατφόρμες του διαδικτύου (Google, Facebook, Twitter), οι οποίες δημοσιεύουν συνδέσμους με ένα μικρό απόσπασμα από ειδησεογραφικό περιεχόμενο που παράγουν οι ίδιοι. Το Άρθρο 11, το οποίο εντέλει μεταφέρθηκε στο Άρθρο 15 του τελικού κειμένου της νέας Οδηγίας (ΕΕ) 2019/170 για την πνευματική ιδιοκτησία στο διαδίκτυο, αποτέλεσε αντικείμενο μεγάλων αντιπαραθέσεων, κατά τις διαπραγματεύσεις για την αναθεώρηση της Οδηγίας. Στη μία πλευρά της αντιπαράθεσης ήταν οι μεγάλες πλατφόρμες, νομικοί, ανεξάρτητοι εκδότες και οργανώσεις για την ελευθερία της έκφρασης και το δικαίωμα στην πληροφόρηση, ενώ στην άλλη βρίσκονταν οι ενώσεις εκδοτών, δημοσιογράφων και δημιουργών περιεχομένου.
Ο Krishna Bharat είναι ειδικός επί θεμάτων τεχνολογίας, μέλος του Ακαδημαϊκού Συμβουλίου του Columbia Journalism School και του προγράμματος John S.Knight Journalism Fellowships του Πανεπιστημίου Stanford. Έχει διατελέσει επί 15ετία στέλεχος της Google, στην οποία δημιούργησε την υπηρεσία Google News και είναι ιδρυτικό μέλος της εταιρείας οπτικής τεχνητής νοημοσύνης Grokstyle Inc και της εταιρείας αναζήτησης διαδικτυακού περιεχομένου και προσωποποιημένων υπηρεσιών Laserlike Inc.
