View Full Version : Ποιος θα ζήσει κ ποιος θα πεθάνει
Ανοίγω το θέμα εδώ γιατί όσο κ να προσπάθησα δεν μπόρεσα να δώσω στον εαυτό μου πειστική απάντηση.
Εδώ μπορείτε να διαβάσετε όλο το άρθρο
http://www.thetoc.gr/koinwnia/article/to-adiaxwrito-sto-apth-gia-ton-ellina-pou-eluse-ton-grifo-tou-nas
Παρακάτω το επίμαχο απόσπασμα
Ποιος αποφασίζει ποιος θα χάσει τη ζωή του;
'Ενα άλλο θέμα, πρόσθεσε, έχει να κάνει με ηθικά διλήμματα. "Ενα κλασικό πρόβλημα είναι το εξής. Σκεφτείτε ότι φτιάχνουμε αυτοοδηγούμενα αυτοκίνητα που κινούνται μαζικά στους δρόμους. Αναπόφευκτα κάποιο από αυτά θα βρει τον εαυτό του σε φάση αναγνώρισης του γεγονότος ότι σε μερικά δευτερόλεπτα θα γίνει ένα αναπόφευκτο ατύχημα με εμπλοκή πεζών. Ο αλγόριθμος που οδηγεί καταλαβαίνει τότε ότι έχει δύο δυνατότητες: να πάει ευθεία και να σκοτώσει τους πεζούς ή να πάει αριστερά, να χτυπήσει στο στηθαίο και να σκοτώσει τους επιβαίνοντες. Δεν μπορεί να σώσει και τους δύο. Πώς θα πάρει την απόφαση; Ο αλγόριθμος μπορεί επίσης να καταλαβαίνει ότι οι πεζοί είναι ένα παιδάκι 8 χρονών, ο μπαμπάς του, 41, και ο σκύλος τους και οι επιβαίνοντες μια έγκυος γυναίκα 30 ετών και το αγοράκι της. Πώς εγώ που σχεδιάζω τον αλγόριθμο θα λάβω την απόφαση για το ποιος θα ζήσει"
Αν θέλετε το συζητάμε
Χμμμ...νομιζω ,αν και εξάπτει την (επιστημονική) φαντασία, τα πράγματα για τα κομπιουτερΖ είναι απλά γτ βασίζουν τις αποφάσεις τους πάνω σε νόμους κι όχι πάνω στην ηθική.
Στο παράδειγμα, το κομπιούτερ θα προστάτευε πάντα και πρώτα τους επιβαίνοντες και όχι όσους "πετάχτηκαν" στον δρόμο ξαφνικά. Θα έκανε ότι ήταν μηχανικά δυνατό για λιγότερη δυνατή ζημιά (φρένα κλπ) αλλά μέχρι εκεί.
Πιθανόν να είναι κι αυτό που λες μια προοπτική. Προστατέψτε τους επιβάτες (μιας κ αυτοί πλήρωσαν)
Ωστόσο δεν νομίζω ότι είναι τόσο απλοϊκό.
Σ αυτήν τη απλοποίηση βάλε στη θέση των πεζών ένα άλλο αυτοκίνητο, οπότε πάμε για μετωπική. Ποιο αυτοκίνητο chickens out τελικά για να"σκοτώσει"τους δικούς επιβάτες ώστε να σωθούν οι άλλοι? Με το σκεπτικό σου, κανένα οπότε σκοτώνονται όλοι
Πιθανόν να είναι κι αυτό που λες μια προοπτική. Προστατέψτε τους επιβάτες (μιας κ αυτοί πλήρωσαν)
Ωστόσο δεν νομίζω ότι είναι τόσο απλοϊκό.
Σ αυτήν τη απλοποίηση βάλε στη θέση των πεζών ένα άλλο αυτοκίνητο, οπότε πάμε για μετωπική. Ποιο αυτοκίνητο chickens out τελικά για να"σκοτώσει"τους δικούς επιβάτες ώστε να σωθούν οι άλλοι? Με το σκεπτικό σου, κανένα οπότε σκοτώνονται όλοι
Είναι απλοϊκά, γτ τα κομπιουτερΖ απλοϊκά δουλεύουν.
Σε μετωπική, οπ παράνομος είναι αυτός που μπαίνει στο αντίθετο ρεύμα και προφανώς δεν έχει κομπιούτερ να του το απαγορεύσει. Αν είχε κι αυτός, ποτέ δεν θα έμπαινε στο αντίθετο ρεύμα.
Άρα, το πρόβλημα είναι ότι δεν μπορεί τα μισά οχήματα να τα οδηγούν κομπιουτερΖ και τα μισά άνθρωποι γιατί δεν θα παίζανε όλοι με τους ίδιους κανόνες.
nikos_abel
18/01/2018, 07:41
Τζι Τζι Τζορτζ, απομονώνεις το απόσπασμα από το συνολικό άρθρο και την ιστορία και φιλοσοφία του Δασκαλάκη, με αποτέλεσμα να βγάζεις
βιαστικό συμπέρασμα.
Το ηθικό δίλημα είναι τεράστιο - για όποιον έχει ηθική, την οποία ηθική του και θα μεταφέρει στον αλγόριθμο.
Παρόμοιο δίλημα εμφανίστηκε και στην σούπερ εφέ ουάου ταινία I, robot με τον Will Smith, όταν ένα ρομπότ,
από 2 αυτοκίνητα που βυθίζονταν, αποφάσισε να σώσει τον ήρωα αντί ένα κοριτσάκι, γιατί υπολογίζοντας
τις πιθανότητες είδε ότι ο ήρωας είχε πολύ περισσότερες, άσχετα αν ο ίδιος επέμενε να θυσιαστεί για το παιδί.
Τα απλοϊκά κομπιούτερ, υπολογίζουν πιθανότητες. Η "ηθική" όχι, καθώς τίποτα και κανένας δεν είναι απλώς αριθμοί
(όσο και αν οι οικονομοτέτοιοι τεχνοτέτοιοι προσπαθούν να πείσουν για το αντίθετο).
-----------------------------
Μου έκανε βέβαια εντύπωση πως ο Δασκαλάκης δεν είχε και το 4ο σενάριο, που τελικά οι μηχανές
μέσω της δικής τους λογικής αναλαμβάνουν τα ηνία, καθώς ταχύτατα θα γίνουν εξυπνότερες.
Τζι Τζι Τζορτζ, απομονώνεις το απόσπασμα από το συνολικό άρθρο και την ιστορία και φιλοσοφία του Δασκαλάκη, με αποτέλεσμα να βγάζεις
βιαστικό συμπέρασμα.
Το ηθικό δίλημα είναι τεράστιο - για όποιον έχει ηθική, την οποία ηθική του και θα μεταφέρει στον αλγόριθμο.
Παρόμοιο δίλημα εμφανίστηκε και στην σούπερ εφέ ουάου ταινία I, robot με τον Will Smith, όταν ένα ρομπότ,
από 2 αυτοκίνητα που βυθίζονταν, αποφάσισε να σώσει τον ήρωα αντί ένα κοριτσάκι, γιατί υπολογίζοντας
τις πιθανότητες είδε ότι ο ήρωας είχε πολύ περισσότερες, άσχετα αν ο ίδιος επέμενε να θυσιαστεί για το παιδί.
Τα απλοϊκά κομπιούτερ, υπολογίζουν πιθανότητες. Η "ηθική" όχι, καθώς τίποτα και κανένας δεν είναι απλώς αριθμοί
(όσο και αν οι οικονομοτέτοιοι τεχνοτέτοιοι προσπαθούν να πείσουν για το αντίθετο).
-----------------------------
Μου έκανε βέβαια εντύπωση πως ο Δασκαλάκης δεν είχε και το 4ο σενάριο, που τελικά οι μηχανές
μέσω της δικής τους λογικής αναλαμβάνουν τα ηνία, καθώς ταχύτατα θα γίνουν εξυπνότερες.
Το ερώτημα σε αυτό είναι ΠΟΙΟΥ την ηθική θα ακολουθήσουν; Γτ δεν υπάρχει μια ηθική αλλά κάτι δισεκατομμύρια, όσοι είναι και οι άνθρωποι.
Αν τα κομπιουτερΖ πάρουν την ηθική του ιδιοκτήτη τους, τότε πάλι θα έχουμε το ίδιο χάος. Αν ακολουθήσουν μια ηθική, ποιανού;
Όποτε, για τα κομπιουτερΖ ισχύει ότι και για τον Βουλγαράκη..το νόμιμο είναι και ηθικό.
PortisHead
18/01/2018, 07:51
Δεν πειραζει ρε παιδια....
Καλυτερα να αποφασιζει ενας ψυχρος αλγοριθμος,
παρα ο πιωμενος πισω απο το τιμονι.
o_gavros
18/01/2018, 07:53
Ενας γιουνιβερσαλ κανόνας,με καθολικη εφαρμογή στον κοσμο μας: money talks.
Νομίζω απάντησα στο ερώτημα "ποιού την ηθικη".
BlackAdder
18/01/2018, 07:54
Καλύτερα να δημιουργήσουμε ένα σύστημα που να γνωρίζουμε από πριν το πως παίρνει τις αποφάσεις, ώστε να προσαρμόζουμε τη συμπεριφορά μας ανάλογα, από το να αφήσουμε στη τύχη κάθε φορά.
nikos_abel
18/01/2018, 08:05
Το ερώτημα σε αυτό είναι ΠΟΙΟΥ την ηθική θα ακολουθήσουν; Γτ δεν υπάρχει μια ηθική αλλά κάτι δισεκατομμύρια, όσοι είναι και οι άνθρωποι.
Αν τα κομπιουτερΖ πάρουν την ηθική του ιδιοκτήτη τους, τότε πάλι θα έχουμε το ίδιο χάος. Αν ακολουθήσουν μια ηθική, ποιανού;
Όποτε, για τα κομπιουτερΖ ισχύει ότι και για τον Βουλγαράκη..το νόμιμο είναι και ηθικό.
Μα την ηθική του κατασκευαστή τους θα ακολουθήσουν, ως ότου αποκτήσουν τη δική τους τουλάχιστον.
Αυτός ο τύπος που πιστεύει ότι σε 5 χρόνια τα αυτοκίνητα θα κάνουν κάτι τέτοιο, είναι επιστήμονας και διακεκριμένος ε; Μμμ, μάλιστα.
Αυτός ο τύπος που πιστεύει ότι σε 5 χρόνια τα αυτοκίνητα θα κάνουν κάτι τέτοιο, είναι επιστήμονας και διακεκριμένος ε; Μμμ, μάλιστα.
:lol:
Μα την ηθική του κατασκευαστή τους θα ακολουθήσουν, ως ότου αποκτήσουν τη δική τους τουλάχιστον.
Ο κατασκευαστής μπορεί α είναι από μορμονος μεχρι ο βαγγελΑς Μαρινακης..
Αν μιλάμε για μια και μοναδική ηθική , τότε θα είναι η «ηθική» του νομοθέτη…οπότε βλέπε παρακτω…
Ενας γιουνιβερσαλ κανόνας,με καθολικη εφαρμογή στον κοσμο μας: money talks.
Νομίζω απάντησα στο ερώτημα "ποιού την ηθικη".
Το πρόβλημα της ηθικής δεν θα το αντιμετωπίσουμε στο μέλλον..
Το αντιμετωπίσαμε στο παρελθόν και το αντιμετωπίζουμε σήμερα.
Άσχετα με τα κομπιούτερΖ και τα ιπτάμενα αυτοκίνητα.
Κα είναι λογικό μιας και η ηθική είναι τελείως ανθρώπινη διαδικασία ,σχεδόν βιολογική, που έχει να κάνει με χιλιάδες παράγοντες στην ζωή του ανθρώπου. Οικογένεια , εκπαίδευση , μόρφωση , εμπειρίες κλπ κλπ
Για τον καθένα μας , υπάρχουν χιλιάδες μαλακες εκεί έξω (και δεν είναι οι ίδιοι για ολους) , όπως κι εμείς είμαστε μαλακες για κάποιους.
Τωρα , αν η κουβέντα είναι στο να προστεθούν και ρομποτικοί μαλακες στην ζωή μας. Τουλάχιστον , αυτοί θα δουλεύουν με μπαταριά και μπορείς να τους την βγάλεις..
Το πρόβλημα της ηθικής δεν θα το αντιμετωπίσουμε στο μέλλον..
Το αντιμετωπίσαμε στο παρελθόν και το αντιμετωπίζουμε σήμερα.
Άσχετα με τα κομπιούτερΖ και τα ιπτάμενα αυτοκίνητα.
Ακριβώς αυτό. Εκτός του ότι το σενάριό του, προφανώς για να περάσει το πόιντ του, είναι παντελώς πλασματικό, υποθετικό, τολμώ να πω και απίθανο, (ότ)αν φτάσουμε να χρησιμοποιούμε ευρέως τόσο εξελιγμένα συστήματα ΑΙ (σε 5 χρόνια δηλαδή :lol: :lol: :lol: :lol: :lol: ), δεν έχει καμία απολύτως σχέση με τεχνολογία. Είναι 100% ανθρώπινο, δουλειά του προγραμματιστή.
Και δεν έχω τελειώσει καν ΜΙΤ.
Ακριβώς αυτό. Εκτός του ότι το σενάριό του, προφανώς για να περάσει το πόιντ του, είναι παντελώς πλασματικό, υποθετικό, τολμώ να πω και απίθανο, (ότ)αν φτάσουμε να χρησιμοποιούμε ευρέως τόσο εξελιγμένα συστήματα ΑΙ (σε 5 χρόνια δηλαδή :lol: :lol: :lol: :lol: :lol: ), δεν έχει καμία απολύτως σχέση με τεχνολογία. Είναι 100% ανθρώπινο, δουλειά του προγραμματιστή.
Και δεν έχω τελειώσει καν ΜΙΤ.
Έχεις ΜΤ.
Ποιος το γ@μει το Ι.....
Το θέμα εγειρει νέα προβλήματα στην καθημερινότητα που όλοι γνωρίζουμε.
Υποθετικό σενάριο μιας στραβοτιμονιας ενός ΑΙ οχήματος λόγω κάποιου bug στον προγραμματισμό πως μπορεί να αντιμετωπιστεί από το εταίρο όχημα που θα επιβαίνουμε;
Τι μπινελικι μπορείς να χρησιμοποιήσεις;
Πχ "Γ@μω τον σέρβερ σου ρε ουστη!"
"Αν κατέβω κάτω,θα σου βάλω τον σκληρό στην rj245 ρε παλιοπεντιουμ !"
Είναι λίγο πρόβλημα.....
Μανολης67
18/01/2018, 09:38
Μα την ηθική του κατασκευαστή τους θα ακολουθήσουν, ως ότου αποκτήσουν τη δική τους τουλάχιστον.
https://www.newsbeast.gr/technology/arthro/3081117/pos-1-400-chronia-anthropinis-gnosis-nikiounte-panefkola-me-exaskisi-4-oron
Σκακιστικο πρόγραμμα σχεδιασμένο στην αυτοεκμαθηση σε λιγες ωρες άλλαξε ολη την ανθρώπινη προσέγγιση του παιχνιδιού ιστοριας χιλιαδων ετων και νικησε χρησιμοποιωντας τον βασιλιά σαν 9 επιθετικο πιονι.
GiorgosLa
18/01/2018, 09:40
Αυτά τα προβλήματα με τα ρομπότ, λύθηκαν το 1942 :)
https://el.wikipedia.org/wiki/%CE%A4%CF%81%CE%B5%CE%B9%CF%82_%CE%BD%CF%8C%CE%BC%CE%BF%CE%B9_%CF%84%CE%B7%CF%82_%CF%81%CE%BF%CE%BC% CF%80%CE%BF%CF%84%CE%B9%CE%BA%CE%AE%CF%82
PortisHead
18/01/2018, 09:40
Εξαλλου αυτα ειναι θεματα που δεν πρεπει να μας ανησυχουν εδω στην Ελλαδα.
Χρησιμοποιοντας ενα αποφθεγμα ...
"Το 1980....φανταζομασταν οτι το 2018 θα εχουμε ιπταμενα αυτοκινητα ο καθενας
και ήρθε το 2018 και δεν εχουμε πετρελαιο να ζεσταθουμε".....
Οποτε λογικα...σε 5 χρονια δεν θα πρεπει να μας απασχολουν και πολυ τα ΑΙ αυτοκινητα.
:lol:
Post απο το μελλον --> τελικα στο κάρο να βαλω ροδα απο δρύ ή απο καρυδια ? Πιο ξυλο ειναι καλυτερο ?
https://www.newsbeast.gr/technology/arthro/3081117/pos-1-400-chronia-anthropinis-gnosis-nikiounte-panefkola-me-exaskisi-4-oron
Σκακιστικο πρόγραμμα σχεδιασμένο στην αυτοεκμαθηση σε λιγες ωρες άλλαξε ολη την ανθρώπινη προσέγγιση του παιχνιδιού ιστοριας χιλιαδων ετων και νικησε χρησιμοποιωντας τον βασιλιά σαν 9 επιθετικο πιονι.
Καμία σχέση το ένα με το άλλο, όμως. Προφανώς ένας υπολογιστής είναι πολύ, πολύ πιο δυνατός από έναν ανθρώπινο εγκέφαλο σε υπολογισμό πράξεων/πιθανών σεναρίων. Κι εφόσον το σκάκι έχει πεπερασμένο αριθμό κινήσεων, ο άνθρωπος δεν έχει καμία απολύτως ελπίδα. Ήταν απλά θέμα χρόνου, μέχρι να υπάρξει αρκετή επεξεργαστική ισχύς.
Η οδήγηση ενός οχήματος, με οτιδήποτε μπορεί να προκύψει, δεν έχει πεπερασμένο αριθμό κινήσεων όμως. Κάθε σενάριο είναι μοναδικό. Μιλάμε για κάτι εξαιρετικά πολύπλοκο.
Μανολης67
18/01/2018, 09:52
Νομιζω το θεμα μας δεν ειναι η ρομποτικη οδηγηση αυτοκινητου η μοτοσυκλετας αλλα τα ηθικα θεματα που προκυπτουν και αν διαβασες το αρθρο που παραθετω αναγραφει οτι το προγραμμα προσεγγισε ενα θεμα με τελειως διαφορετικη αποψη απο την ανθρωπινη, ακόμα οσο αφορα την υπολογιστικη ισχυ το συγκεκριμένο προγραμμα εχει χαμηλη υπολογιστικη ισχυ αλλα νικησε λόγω:
Και δεν το έκανε βασιζόμενο στην ωμή υπολογιστική δύναμη, καθώς το AlphaZero μπορεί να υπολογίζει 800.000 κινήσεις το δευτερόλεπτο, εκεί που το Stockfish 8 αγγίζει τα 70 εκατομμύρια κινήσεις.
Είναι άλλη η δύναμή του, μια δύναμη που αποκαλούμε κοινώς τεχνητή νοημοσύνη…
Τελος εμείς εδω με Μητροπόυλους και καθηγητες του....προσπαθούμε στα πρωιναδικα λυσουμε το συνταξιοδοτικο με μπλογκακια ελέγχους κτλ και οι κουτοφραγκοι με την ρομποτικη
Νομιζω το θεμα μας δεν ειναι η ρομποτικη οδηγηση αυτοκινητου η μοτοσυκλετας αλλα τα ηθικα θεματα που προκυπτουν και αν διαβασες το αρθρο που παραθετω αναγραφει οτι το προγραμμα προσεγγισε ενα θεμα με τελειως διαφορετικη αποψη απο την ανθρωπινη, ακόμα οσο αφορα την υπολογιστικη ισχυ το συγκεκριμένο προγραμμα εχει χαμηλη υπολογιστικη ισχυ αλλα νικησε λόγω:
Και δεν το έκανε βασιζόμενο στην ωμή υπολογιστική δύναμη, καθώς το AlphaZero μπορεί να υπολογίζει 800.000 κινήσεις το δευτερόλεπτο, εκεί που το Stockfish 8 αγγίζει τα 70 εκατομμύρια κινήσεις.
Είναι άλλη η δύναμή του, μια δύναμη που αποκαλούμε κοινώς τεχνητή νοημοσύνη…
Πολύ λιγότερες, 80.000. Αλλά δεν έχει καμία σημασία αυτό στη συγκεκριμένη περίπτωση, όπως παρέθεσες, είναι καθαρά θέμα προσέγγισης*. Αλλά, ξανά, μιλάμε για κάτι εντελώς μαθηματικό, για πεπερασμένο αριθμό κινήσεων, όπου οι υπολογιστές, προφανώς, υπερτερούν. Το να μπλέκουμε την ηθική οπουδήποτε εκεί μέσα είναι, επιεικώς, άτοπο.
* η οποία είναι πιο κοντά στην ανθρώπινη (από αυτή που ακολουθούσαν συνήθως τα σκακιστικά προγράμματα), όχι "τελείως διαφορετική", όπως γράφεις.
Μια μερα ολοι θα πεθανουμε.....ΟΛΟΙ...ΑΚΟΥΤΕΕΕΕ??:smokin:
Αυτο δε συζηταμε εδω??:bawl:
nikos_abel
18/01/2018, 11:16
Καμία σχέση το ένα με το άλλο, όμως. Προφανώς ένας υπολογιστής είναι πολύ, πολύ πιο δυνατός από έναν ανθρώπινο εγκέφαλο σε υπολογισμό πράξεων/πιθανών σεναρίων. Κι εφόσον το σκάκι έχει πεπερασμένο αριθμό κινήσεων, ο άνθρωπος δεν έχει καμία απολύτως ελπίδα. Ήταν απλά θέμα χρόνου, μέχρι να υπάρξει αρκετή επεξεργαστική ισχύς.
Η οδήγηση ενός οχήματος, με οτιδήποτε μπορεί να προκύψει, δεν έχει πεπερασμένο αριθμό κινήσεων όμως. Κάθε σενάριο είναι μοναδικό. Μιλάμε για κάτι εξαιρετικά πολύπλοκο.
Πάλι δε διάβασες το άρθρο βρε!
nikos_abel
18/01/2018, 11:17
Μια μερα ολοι θα πεθανουμε.....ΟΛΟΙ...ΑΚΟΥΤΕΕΕΕ??:smokin:
Αυτο δε συζηταμε εδω??:bawl:
Μια μέρα όλοι μας θα πεθάνετΕ λέμε.
Πάλι δε διάβασες το άρθρο βρε!
Ποιο από τα 2; :p Και τα 2 τα διάβασα και για την DeepMind είχα διαβάσει αναλυτικά τότε, αφού αυτό το άρθρο είναι αρκετά επιφανειακό. Ένιγουεϊ, δεν έχω κάτι να προσθέσω, έγραψα τη(ν) - γενικότερη - άποψή μου.
Ας κρατήσουμε τα sex robots και ας αφήσουμε στην άκρη τα υπόλοιπα καλού κακού. :D
392275
:bawl:
Άσε ρε φίλε.....να βαρεσει τιλτ και να στο βγάλει έτσι....
392278
o_gavros
18/01/2018, 13:28
Με σιρόπι εννοείς; :p
Ας κρατήσουμε τα sex robots και ας αφήσουμε στην άκρη τα υπόλοιπα καλού κακού. :D
392275
:bawl:
Ρε την πουτάνα έχει και gps και έπιασε και τη διάλεκτο λέμε...
Τι βλέπω; Όλοι οι πτυχιούχοι της Εφαρμοσμένης τενητής νοημοσύνης μαζευτήκατε εδώ; :tooth:
A, μια και το πήρα το γ@μήδι το πτυχίο (ναι, σε Apllied AI), να σας πω ότι δεν ειναι τόσο απλά τα πράγματα. Τα μηχανήματα δυνητικά μπορούν να αποφασίζουν.
Και όχι, δεν είναι ο προγραμματιστής που λέει τι να αποφασίσει (το μηχανημα)... δυστυχώς.
Τα μηχανήματα δυνητικά μπορούν να αποφασίζουν.
Και όχι, δεν είναι ο προγραμματιστής που λέει τι να αποφασίσει (το μηχανημα)... δυστυχώς.
Όχι, αλλά είναι ο προγραμματιστής που θα δώσει τον απώτερο σκοπό, τον στόχο, το main objective, αν θες. Το πώς θα φτάσει εκεί είναι, προφανώς, το όλο νόημα, αλλιώς δε θα λεγόταν "intelligence". :p
Κι αν ακόμα δεν είναι σαφές, για παράδειγμα (πολύ απλοϊκά), σε ένα σκακιστικό ΑΙ, ο σκοπός του είναι να κερδίζει παρτίδες. Παίζει χιλιάδες παρτίδες και "αποθηκεύει" ως επιτυχημένες τις κινήσεις που οδηγούν σε κερδισμένες παρτίδες. Αυτό το τελευταίο είναι 100% δική του δουλειά. Αλλά έχει έναν ξεκάθαρο, προγραμματισμένο στόχο. Να κερδίζει παρτίδες. Δεν ξύπνησε ένα πρωί και σκέφτηκε ότι τελικά θέλει να το ρίξει στο τάβλι.
Όχι, αλλά είναι ο προγραμματιστής που θα δώσει τον απώτερο σκοπό, τον στόχο, το main objective, αν θες. Το πώς θα φτάσει εκεί είναι, προφανώς, το όλο νόημα, αλλιώς δε θα λεγόταν "intelligence". :p
ύτε καν.
Ο Προγραμματιστής δίνει το περιβάλλον στο οπόίο το μηχανήμα θα μαζεύει σενάρια... κάτι σαν την δική μας εμπειρία... Και ως γνωστόν, όλοι μας γεννηθήκαμε καλοί άνθρωποι (οκ, εγώ πιθανώς όχι) αλλά στην πορεία της ζωής μας αλλάξαμε...
Δεν έφτασα καν ως εκεί. Ναι, ορίζει και τους "κανόνες" κτλ κτλ (πχ το πώς παίζεται το σκάκι στο παραπάνω παράδειγμα, ποιες κινήσεις επιτρέπονται, ποιες όχι, πότε λήγει το παιχνίδι). Αλλά δεν έφτασα καν εκεί.
Το σίγουρο είναι ότι ένα μηχάνημα δεν μπορεί να "σκεφτεί" αν θα σώσει τον πεζό ή τον οδηγό. Δεν το ενδιαφέρει. Το ενδιαφέρει να κάνει αυτό για το οποίο είναι προγραμματισμένο. Αν είναι προγραμματισμένο να προκαλέσει τη μικρότερη ζημιά στο όχημα, αυτό θα κάνει και, εμμέσως, θα σκοτώσει τον πεζό, χωρίς να δίνει δεκάρα αν είναι πεζός, γάτα ή τσακισμένο δολάριο αυτό που θα πατήσει.
Δεν έφτασα καν ως εκεί. Ναι, ορίζει και τους "κανόνες" κτλ κτλ (πχ το πώς παίζεται το σκάκι στο παραπάνω παράδειγμα, ποιες κινήσεις επιτρέπονται, ποιες όχι, πότε λήγει το παιχνίδι). Αλλά δεν έφτασα καν εκεί.
Το σίγουρο είναι ότι ένα μηχάνημα δεν μπορεί να "σκεφτεί" αν θα σώσει τον πεζό ή τον οδηγό. Δεν το ενδιαφέρει. Το ενδιαφέρει να κάνει αυτό για το οποίο είναι προγραμματισμένο. Αν είναι προγραμματισμένο να προκαλέσει τη μικρότερη ζημιά στο όχημα, αυτό θα κάνει και, εμμέσως, θα σκοτώσει τον πεζό, χωρίς να δίνει δεκάρα αν είναι πεζός, γάτα ή τσακισμένο δολάριο αυτό που θα πατήσει.
Xμ.... οκ, νομίζω δεν πιάνεις αυτό που λέω... Στα συστηματα ΑΙ δεν προγραμματιζεις κανόνες. Δυνητικά, μπορεί να κάνει ότι αυτό γουστάρει...
Κι αυτό είναι κάτι που στους κόλπους των επιστημόνων ΑΙ τον τελευταίο καιρό παιζει πολύ κουβέντα (όπως στους βιολόγους και γιατρους η βιοηθική).
Μα δε λειτουργεί σύστημα χωρίς κανόνες/όρια. Καταλαβαίνω τι λες, αλλά μάλλον λέμε διαφορετικά πράγματα. :p Γι'αυτό έβαλα και το παράδειγμα. Σε αυτή την περίπτωση, δεν μπορείς να μην προγραμματίσεις τις κινήσεις των πιονιών. Ή πότε είναι ματ. Δε θα τα ανακαλύψει μόνο του (κι αυτό γίνεται, βέβαια, αλλά δεν έγινε εδώ).
Σκάω. Σας αφήνω να συνεχίσετε.
Δεν έφτασα καν ως εκεί. Ναι, ορίζει και τους "κανόνες" κτλ κτλ (πχ το πώς παίζεται το σκάκι στο παραπάνω παράδειγμα, ποιες κινήσεις επιτρέπονται, ποιες όχι, πότε λήγει το παιχνίδι). Αλλά δεν έφτασα καν εκεί.
Το σίγουρο είναι ότι ένα μηχάνημα δεν μπορεί να "σκεφτεί" αν θα σώσει τον πεζό ή τον οδηγό. Δεν το ενδιαφέρει. Το ενδιαφέρει να κάνει αυτό για το οποίο είναι προγραμματισμένο. Αν είναι προγραμματισμένο να προκαλέσει τη μικρότερη ζημιά στο όχημα, αυτό θα κάνει και, εμμέσως, θα σκοτώσει τον πεζό, χωρίς να δίνει δεκάρα αν είναι πεζός, γάτα ή τσακισμένο δολάριο αυτό που θα πατήσει.
ξανα διαβάστε το αργα. εχει ολο το νόημα της κουβέντας.
και δεν νομίζω να δώσουν ποτε απόλυτη επιλογή ηθικής σε ρομποτ παντα θα ειναι κατι ενδιάμεσο. ιδικά στην μαζική παραγωγή.
nikos_abel
18/01/2018, 14:08
Ααααχχχ Μπλίτζερ, μέχρι και οι αρκούδες ( :tooth: ) σου το λένε και δε θες να το καταλάβεις.
Η ΑΙ παίρνει αποφάσεις που βασίζονται στα δεδομένα που συλλέγει. Υπάρχουν (βαριέμαι να ψάξω) ρομπότ που έχουν
αναπτύξει δικιά τους γλώσσα επικοινωνίας για να μοιράζονται δεδομένα πιο γρήγορα.
Η πραγματικότητα πολύ σύντομα θα ξεπεράσει την επιστημονική φαντασία, ας μη δούμε αυτοκίνητα που πετάνε -
δεν τα χρειαζόμαστε
εξάλλου.
Η ΑΙ παίρνει αποφάσεις που βασίζονται στα δεδομένα που συλλέγει. Υπάρχουν (βαριέμαι να ψάξω) ρομπότ που έχουν
αναπτύξει δικιά τους γλώσσα επικοινωνίας για να μοιράζονται δεδομένα πιο γρήγορα.
Η ΑΙ παίρνει αποφάσεις που βασίζονται στα δεδομένα που συλλέγει, για να πετύχει αυτό για το οποίο έχει προγραμματιστεί. Ακριβώς.
ας μη δούμε αυτοκίνητα και μηχανες που πετάνε -
δεν τα χρειαζόμαστε
εξάλλου.
Κριμα και ειχα μια ελπιδα πως ακομα εγω ο κουλος καποια μερα θα εστριβα αερα πατερα κυριολεκτικα με ενα τετοιο πετώντας:D:smokin:
392281
Η ΑΙ παίρνει αποφάσεις που βασίζονται στα δεδομένα που συλλέγει, για να πετύχει αυτό για το οποίο έχει προγραμματιστεί. Ακριβώς.
Όχι.
Ουφ καλά. Δε θα κάτσω να εξηγήσω ότι ένα σύστημα ΑΙ προγραμματίζεται να είναι σύστημα ΑΙ κι αν το προγραμματίζαμε να είναι τηγάνι, θα ήταν τηγάνι.
Ονειρευτείτε εποχές sci-fi στα επόμενα 5 χρόνια. Και τα λέμε σε καμιά 100αριά που ακόμα δε θα υπάρχει τέτοιο ΑΙ που φαντάζεστε. Ούτε καν κοντά.
στο καλο σεναριο...
Οι μηχανές κάνουν τις χειρονακτικές εργασίες, ο άνθρωπος έχει περισσότερο ελεύθερο χρόνο ή εκτελεί πνευματικές εργασίες και το ασφαλιστικό σύστημα σώζεται, αφού η έλλειψη νέων ανθρώπων που εργάζονται και καταβάλουν εισφορές αναπληρώνεται από την ύπαρξη των ρομπότ, που δεν χρειάζονται ασφάλιση ή σύνταξη.
:tooth::tooth:
Ουφ καλά. Δε θα κάτσω να εξηγήσω ότι ένα σύστημα ΑΙ προγραμματίζεται να είναι σύστημα ΑΙ κι αν το προγραμματίζαμε να είναι τηγάνι, θα ήταν τηγάνι.
Ονειρευτείτε εποχές sci-fi στα επόμενα 5 χρόνια. Και τα λέμε σε καμιά 100αριά που ακόμα δε θα υπάρχει τέτοιο ΑΙ που φαντάζεστε. Ούτε καν κοντά.
Ουτε καν. Απλά στο ΑΙ δεν προγραμματίζεις όπως στα συμβαστικά συστήματα. Και δεν έχουμε τον χρόνο, κι εγώ την όρεξη, να το αναλύσουμε παραπάνω.
στο καλο σεναριο...
Οι μηχανές κάνουν τις χειρονακτικές εργασίες, ο άνθρωπος έχει περισσότερο ελεύθερο χρόνο ή εκτελεί πνευματικές εργασίες και το ασφαλιστικό σύστημα σώζεται, αφού η έλλειψη νέων ανθρώπων που εργάζονται και καταβάλουν εισφορές αναπληρώνεται από την ύπαρξη των ρομπότ, που δεν χρειάζονται ασφάλιση ή σύνταξη.
:tooth::tooth:
Υπάρχει και το κακό σενάριο. Που βρίσκω πιο πιθανό.
skylaros
18/01/2018, 14:35
στο καλο σεναριο...
Οι μηχανές κάνουν τις χειρονακτικές εργασίες, ο άνθρωπος έχει περισσότερο ελεύθερο χρόνο ή εκτελεί πνευματικές εργασίες .
:tooth::tooth:
Murray Bookchin
Murray Bookchin
κι ο λογος που το "καλο" σεναριο δεν θα παιξει ποτε.
392282
Στα κλουβια πιθηκια εε πιθηκια......:D Ον με μεγαλύτερη ευφυΐα θα εχει σε κλουβια πλασματα που του μοιάζουν αλλα κατώτερα...μπααα δε θα γινει ποτε αλλα.κατσε......Τι μου θυμίζει τι μου θυμίζει να δεις..oh wait........
.
.
.
.
392283 συμβαινει τωρα....
:rolleyes::bawl:
Moto.GR never dies. Everybody knows everything. Yeah.
Moto.GR never dies. Everybody knows everything. Yeah.
Of course my dear....:a55::a024::rtr::priest:
:tooth:
nikos_abel
18/01/2018, 16:49
Moto.GR never dies. Everybody knows everything. Yeah.
Εγώ ξέρω ότι το θρεντ επιζεί εκτός καφενείου πολύ ώρα τώρα, μάλλον έχει ήδη αναλάβει η Έι Άι :tooth:
thunder ace
18/01/2018, 17:40
Βλεπω το MATRIX να ερχεται ολο και πιο κοντα.
Εμεις οι ανθρωποι ,θα χρειαζομαστε μονο να δινουμε ενεργεια.
Βλεπω το MATRIX να ερχεται ολο και πιο κοντα.
Εμεις οι ανθρωποι ,θα χρειαζομαστε μονο να δινουμε ενεργεια.
θα μας πιξουν στην φασολάδα το μεθάνιο είναι άριστη πηγή ενεργιας!
thunder ace
18/01/2018, 18:54
θα μας πιξουν στην φασολάδα το μεθάνιο είναι άριστη πηγή ενεργιας!
Μπα...για το μεθανιο εχουν τις αγελαδες:απιστευτη πηγη μεθανιου(δεν κανω πλακα):D
θα μας πιξουν στην φασολάδα το μεθάνιο είναι άριστη πηγή ενεργιας!
Ρε με τόση τρόμπα που βαράμε ξέρεις τι ενέργεια παράγουμε;
Τελικά είναι ενδιαφέρουσα συζήτηση, όπως κ οι προσεγγίσεις του καθένα μας.
Ερωτώ περαιτέρω:
Στο σενάριο που το ΑΙ αυτοκίνητο αποφασίζει ότι θα προστατεύει τους επιβάτες του παση θυσία, τελικά αν σκοτώσει τον πεζό, ποιός φέρει την ευθύνη?
Ο οδηγός στο συγκεκριμένο σενάριο απλά κάθεται στο κάθισμα απ όπου κάποτε χειριζοσουν το όχημα, δεν έχει ενεργό ρόλο στην οδήγηση.
Η εταιρία? Πχ τα Honda σκοτώνουν πεζούς εξ επιλογής???
Grafton 505
18/01/2018, 20:48
Ας πω και εγώ.
Το ΑΙ αυτοκίνητο για να ξεκινήσει θα πρέπει οι επιβαίνοντες να φορέσουν ζώνη. Δεν φορέσανε ζώνη ; Δεν το κουνάει ρούπι.
Εφόσον λοιπόν οι επιβάτες του είναι ασφαλισμένοι με ενεργητική, παθητική και δεν συμμαζεύετε ασφάλεια, μέσα σε ένα ασφαλές κλωβό ασφαλείας, πλέων μένει μια εντολή να ακολουθείσει. Προστασία των πεζών.
Απλά πράγματα.
RaGe_Raptor
18/01/2018, 21:11
http://www.wired.co.uk/article/ai-write-code-microsoft
Triathlon 7
18/01/2018, 22:13
https://www.youtube.com/watch?v=G8DRPneKEGM
Στην ομιλία του Δασκαλάκη, αναφέρεται ότι το σημείο καμπής στην εξέλιξη της AI είναι η δημιουργία αλγόριθμων ελέγχου των μηχανών από άλλες μηχανές! Εμείς (οι άνθρωποι) απλώς τους λέμε τι αλγόριθμο θέλουμε να δημιουργήσουν, μέσω ενός αρχικού αλγόριθμου, που - προς το παρόν - δημιουργούμε εμείς. Βάλτε τώρα την φαντασία σας να δουλέψει. Ατυχήματα, αλλά και "ατυχήματα" που μπορούν να δημιουργηθούν από το ένα στάδιο στο άλλο. Σε έναν διαρκώς διογκούμενο τομέα με μιά εντυπωσιακά επιταχυνόμενη εξέλιξη...
Το βιντεάκι μου το έστειλε η ανηψιά μου. Παρακολούθησε την ομιλία, έχοντας άμεσο επιστημονικό ενδιαφέρον, όπως και πολλοί απο τους παρευρισκόμενους. Στριμωγμένοι όρθιοι κάπου στο βάθος της αίθουσας. Την ίδια ώρα που στις πρώτες θέσεις κάποιοι τύποι αραχτοί παράγγελναν μπύρες (!) με τα γκαρσόνια να πηγαινοέρχονται λες και ήταν στα μπουζούκια! Τι να πεί κανείς..
Μανολης67
19/01/2018, 19:11
Θα ειναι ενδιαφερον σαν παίγνιο (οχι να αποφασίσουν πραγματικά) να δούμε της λύσεις που θα δίνουν στο δημογραφικό, στην Γήρανση του πληθυσμού (συνταξιοδοτικό-ευθανασία) στις διάφορες μεταξύ Κρατων......
nikos_abel
19/01/2018, 20:20
Το μόνο που έχει σημασία είναι αν θα δώσουν της ίδιας ποιότητας σημασία στο self awareness και στην αναγκαιότητα συνέχισης της ύπαρξης (δικιά τους και δικιά μας).
Μακαρι να επαληθευτει ο blitzer και να μη δω στο δρομο αυτες τις αηδιες συντομα.
:yuck:
Powered by vBulletin® Copyright © 2025 vBulletin Solutions, Inc. All rights reserved.