Ich hab nur die 1. Seite gelesen. Falls also was dazwischen war - mea culpa.
Zur Frage:
Was genau meinst du mit "moralisch ok"? Für den Roboter? Für den Menschen? Für den Partner?
Es gibt für mich genau 2 Antworten darauf, die im Prinzip schon heute geklärt sind, die im Prinzip von der Beantwortung einer einzigen Frage abhängt:
Ist es eine so weitreichende KI, dass man von einem eigenen Bewusstsein ausgehen kann? In dem Fall sind die moralischen Grenzen die, wie bei jedem Bewusstsein mit eigenem Willen (in unserem Fall: erwachsenen Menschen). Ob das Bewusstsein zustande kommt, weil Silizium oder ähnliches der Träger der rechnenden Impulse (=Gedanken) sind oder, in unserem Fall, kohlenstoffbasiertes Zeugs, is bums. Bewusstsein ist bewusstsein.
Ist es "nur" eine hochentwickelte Maschine, die kein eigenes Bewusstsein hat? In dem Fall ist es ein extrem gut designter Dildo/Taschenmuschi. Die moralischen Regeln sie die gleichen wie bei der Frage "Darf ich mich mit nem Dildo vergnügen?". Für mich fast uneingeschränkt "ja", aber sexuell weniger freizügige Menschen sehen das ja als Bedrohung an - von dem her: Müssen beide Partner klären.
Abseits der 2 Möglichkeiten find ich die Frage eher - mau. Was ich mir halt noch vorstellen kann, ist, dass sich viele Menschen strikt weigern werden, einem "künstlichen" Lebewesen, was genauso empathisch/rational/Bewusst etc. reagiert, wie ein Mensch, wirklich "Bewusstsein" zuzusprechen oder Persönlichkeit. Liegt aber eher daran, dass wir halt glauben, es wäre dann nur eine "sehr gute Simulation". Das Problem ist: Wenn die "Simulation" so gut ist, wie das Original und man sie nicht mehr unterscheiden kann: Dann sollte man davon ausgehen, dass es doch keine Simulation mehr ist :). Die meisten Menschen werden aber anfangs noch extrem drauf beharren, dass das nicht sein kann bla bla, und sie werden sich nicht zu blöde sein, von "Seele" und ähnlichem unbewiesenem Quatsch zu reden, nur um irgendeine Unterscheidung reinzudrücken.
Diese und ähnliche Gedanken gibts aber schon aus den 70ern bei Assimov und anderen, glaub sogar schon bis in die 40er, 50er zurück. Der Film "I, Robot" und "der 200-Jahre-Mann" haben ja auch damit zu tun: Was macht einen Menschen zum Menschen?
Grüße