Ποιος θα ζήσει κ ποιος θα πεθάνει

[BLiTzER]

Τα μηχανήματα δυνητικά μπορούν να αποφασίζουν.
Και όχι, δεν είναι ο προγραμματιστής που λέει τι να αποφασίσει (το μηχανημα)... δυστυχώς.

Όχι, αλλά είναι ο προγραμματιστής που θα δώσει τον απώτερο σκοπό, τον στόχο, το main objective, αν θες. Το πώς θα φτάσει εκεί είναι, προφανώς, το όλο νόημα, αλλιώς δε θα λεγόταν "intelligence".

Κι αν ακόμα δεν είναι σαφές, για παράδειγμα (πολύ απλοϊκά), σε ένα σκακιστικό ΑΙ, ο σκοπός του είναι να κερδίζει παρτίδες. Παίζει χιλιάδες παρτίδες και "αποθηκεύει" ως επιτυχημένες τις κινήσεις που οδηγούν σε κερδισμένες παρτίδες. Αυτό το τελευταίο είναι 100% δική του δουλειά. Αλλά έχει έναν ξεκάθαρο, προγραμματισμένο στόχο. Να κερδίζει παρτίδες. Δεν ξύπνησε ένα πρωί και σκέφτηκε ότι τελικά θέλει να το ρίξει στο τάβλι.

[sniper]

Όχι, αλλά είναι ο προγραμματιστής που θα δώσει τον απώτερο σκοπό, τον στόχο, το main objective, αν θες. Το πώς θα φτάσει εκεί είναι, προφανώς, το όλο νόημα, αλλιώς δε θα λεγόταν "intelligence".

ύτε καν.

Ο Προγραμματιστής δίνει το περιβάλλον στο οπόίο το μηχανήμα θα μαζεύει σενάρια... κάτι σαν την δική μας εμπειρία... Και ως γνωστόν, όλοι μας γεννηθήκαμε καλοί άνθρωποι (οκ, εγώ πιθανώς όχι) αλλά στην πορεία της ζωής μας αλλάξαμε...

[BLiTzER]

Δεν έφτασα καν ως εκεί. Ναι, ορίζει και τους "κανόνες" κτλ κτλ (πχ το πώς παίζεται το σκάκι στο παραπάνω παράδειγμα, ποιες κινήσεις επιτρέπονται, ποιες όχι, πότε λήγει το παιχνίδι). Αλλά δεν έφτασα καν εκεί.

Το σίγουρο είναι ότι ένα μηχάνημα δεν μπορεί να "σκεφτεί" αν θα σώσει τον πεζό ή τον οδηγό. Δεν το ενδιαφέρει. Το ενδιαφέρει να κάνει αυτό για το οποίο είναι προγραμματισμένο. Αν είναι προγραμματισμένο να προκαλέσει τη μικρότερη ζημιά στο όχημα, αυτό θα κάνει και, εμμέσως, θα σκοτώσει τον πεζό, χωρίς να δίνει δεκάρα αν είναι πεζός, γάτα ή τσακισμένο δολάριο αυτό που θα πατήσει.

[sniper]

Δεν έφτασα καν ως εκεί. Ναι, ορίζει και τους "κανόνες" κτλ κτλ (πχ το πώς παίζεται το σκάκι στο παραπάνω παράδειγμα, ποιες κινήσεις επιτρέπονται, ποιες όχι, πότε λήγει το παιχνίδι). Αλλά δεν έφτασα καν εκεί.

Το σίγουρο είναι ότι ένα μηχάνημα δεν μπορεί να "σκεφτεί" αν θα σώσει τον πεζό ή τον οδηγό. Δεν το ενδιαφέρει. Το ενδιαφέρει να κάνει αυτό για το οποίο είναι προγραμματισμένο. Αν είναι προγραμματισμένο να προκαλέσει τη μικρότερη ζημιά στο όχημα, αυτό θα κάνει και, εμμέσως, θα σκοτώσει τον πεζό, χωρίς να δίνει δεκάρα αν είναι πεζός, γάτα ή τσακισμένο δολάριο αυτό που θα πατήσει.

Xμ.... οκ, νομίζω δεν πιάνεις αυτό που λέω... Στα συστηματα ΑΙ δεν προγραμματιζεις κανόνες. Δυνητικά, μπορεί να κάνει ότι αυτό γουστάρει...

Κι αυτό είναι κάτι που στους κόλπους των επιστημόνων ΑΙ τον τελευταίο καιρό παιζει πολύ κουβέντα (όπως στους βιολόγους και γιατρους η βιοηθική).

[BLiTzER]

Μα δε λειτουργεί σύστημα χωρίς κανόνες/όρια. Καταλαβαίνω τι λες, αλλά μάλλον λέμε διαφορετικά πράγματα. Γι'αυτό έβαλα και το παράδειγμα. Σε αυτή την περίπτωση, δεν μπορείς να μην προγραμματίσεις τις κινήσεις των πιονιών. Ή πότε είναι ματ. Δε θα τα ανακαλύψει μόνο του (κι αυτό γίνεται, βέβαια, αλλά δεν έγινε εδώ).

Σκάω. Σας αφήνω να συνεχίσετε.

[SONone]

Δεν έφτασα καν ως εκεί. Ναι, ορίζει και τους "κανόνες" κτλ κτλ (πχ το πώς παίζεται το σκάκι στο παραπάνω παράδειγμα, ποιες κινήσεις επιτρέπονται, ποιες όχι, πότε λήγει το παιχνίδι). Αλλά δεν έφτασα καν εκεί.

Το σίγουρο είναι ότι ένα μηχάνημα δεν μπορεί να "σκεφτεί" αν θα σώσει τον πεζό ή τον οδηγό. Δεν το ενδιαφέρει. Το ενδιαφέρει να κάνει αυτό για το οποίο είναι προγραμματισμένο. Αν είναι προγραμματισμένο να προκαλέσει τη μικρότερη ζημιά στο όχημα, αυτό θα κάνει και, εμμέσως, θα σκοτώσει τον πεζό, χωρίς να δίνει δεκάρα αν είναι πεζός, γάτα ή τσακισμένο δολάριο αυτό που θα πατήσει.

ξανα διαβάστε το αργα. εχει ολο το νόημα της κουβέντας.
και δεν νομίζω να δώσουν ποτε απόλυτη επιλογή ηθικής σε ρομποτ παντα θα ειναι κατι ενδιάμεσο. ιδικά στην μαζική παραγωγή.

[nikos_abel]

Ααααχχχ Μπλίτζερ, μέχρι και οι αρκούδες ( ) σου το λένε και δε θες να το καταλάβεις.

Η ΑΙ παίρνει αποφάσεις που βασίζονται στα δεδομένα που συλλέγει. Υπάρχουν (βαριέμαι να ψάξω) ρομπότ που έχουν
αναπτύξει δικιά τους γλώσσα επικοινωνίας για να μοιράζονται δεδομένα πιο γρήγορα.
Η πραγματικότητα πολύ σύντομα θα ξεπεράσει την επιστημονική φαντασία, ας μη δούμε αυτοκίνητα που πετάνε -
δεν τα χρειαζόμαστε
εξάλλου.

[BLiTzER]

Η ΑΙ παίρνει αποφάσεις που βασίζονται στα δεδομένα που συλλέγει. Υπάρχουν (βαριέμαι να ψάξω) ρομπότ που έχουν
αναπτύξει δικιά τους γλώσσα επικοινωνίας για να μοιράζονται δεδομένα πιο γρήγορα.

Η ΑΙ παίρνει αποφάσεις που βασίζονται στα δεδομένα που συλλέγει, για να πετύχει αυτό για το οποίο έχει προγραμματιστεί. Ακριβώς.

[o teos]

ας μη δούμε αυτοκίνητα και μηχανες που πετάνε -
δεν τα χρειαζόμαστε
εξάλλου.

Κριμα και ειχα μια ελπιδα πως ακομα εγω ο κουλος καποια μερα θα εστριβα αερα πατερα κυριολεκτικα με ενα τετοιο πετώντας

[sniper]

Η ΑΙ παίρνει αποφάσεις που βασίζονται στα δεδομένα που συλλέγει, για να πετύχει αυτό για το οποίο έχει προγραμματιστεί. Ακριβώς.

Όχι.

[BLiTzER]

Ουφ καλά. Δε θα κάτσω να εξηγήσω ότι ένα σύστημα ΑΙ προγραμματίζεται να είναι σύστημα ΑΙ κι αν το προγραμματίζαμε να είναι τηγάνι, θα ήταν τηγάνι.

Ονειρευτείτε εποχές sci-fi στα επόμενα 5 χρόνια. Και τα λέμε σε καμιά 100αριά που ακόμα δε θα υπάρχει τέτοιο ΑΙ που φαντάζεστε. Ούτε καν κοντά.

[ggs]

στο καλο σεναριο...

Οι μηχανές κάνουν τις χειρονακτικές εργασίες, ο άνθρωπος έχει περισσότερο ελεύθερο χρόνο ή εκτελεί πνευματικές εργασίες και το ασφαλιστικό σύστημα σώζεται, αφού η έλλειψη νέων ανθρώπων που εργάζονται και καταβάλουν εισφορές αναπληρώνεται από την ύπαρξη των ρομπότ, που δεν χρειάζονται ασφάλιση ή σύνταξη.

[sniper]

Ουφ καλά. Δε θα κάτσω να εξηγήσω ότι ένα σύστημα ΑΙ προγραμματίζεται να είναι σύστημα ΑΙ κι αν το προγραμματίζαμε να είναι τηγάνι, θα ήταν τηγάνι.

Ονειρευτείτε εποχές sci-fi στα επόμενα 5 χρόνια. Και τα λέμε σε καμιά 100αριά που ακόμα δε θα υπάρχει τέτοιο ΑΙ που φαντάζεστε. Ούτε καν κοντά.

Ουτε καν. Απλά στο ΑΙ δεν προγραμματίζεις όπως στα συμβαστικά συστήματα. Και δεν έχουμε τον χρόνο, κι εγώ την όρεξη, να το αναλύσουμε παραπάνω.

στο καλο σεναριο...

Οι μηχανές κάνουν τις χειρονακτικές εργασίες, ο άνθρωπος έχει περισσότερο ελεύθερο χρόνο ή εκτελεί πνευματικές εργασίες και το ασφαλιστικό σύστημα σώζεται, αφού η έλλειψη νέων ανθρώπων που εργάζονται και καταβάλουν εισφορές αναπληρώνεται από την ύπαρξη των ρομπότ, που δεν χρειάζονται ασφάλιση ή σύνταξη.

Υπάρχει και το κακό σενάριο. Που βρίσκω πιο πιθανό.

[skylaros]

στο καλο σεναριο...

Οι μηχανές κάνουν τις χειρονακτικές εργασίες, ο άνθρωπος έχει περισσότερο ελεύθερο χρόνο ή εκτελεί πνευματικές εργασίες .

Murray Bookchin

[ggs]

Murray Bookchin

κι ο λογος που το "καλο" σεναριο δεν θα παιξει ποτε.