Lässt sich Verantwortung prompten? Und: Anmeldung zur APP VISION 27 offen.

KI hat die App-Entwicklung verändert, wie man sie in wenigen Jahren kaum für möglich gehalten hätte: Code wird generiert, Designs entstehen in Minuten, und der App Store quillt über mit neuen Produkten. Mira Jago, ist Geschäftsführerin der App-Agentur Cuckoo Coding und hat auf der APP VISION 26 ihr Responsible-by-Design-Framework vorgestellt. Was davon gilt noch in Zeiten von KI?

Gleichzeitig hat Apple das iPhone gefaltet und damit eine neue Frage an jedes App-Team gestellt. Darauf schauen wir mit unserem Solutions Architect Benni, der das iPhone Duo beim Apple Developer Workshop in Berlin in der Hand hatte.

Und noch eine Neuigkeit: Die Anmeldungen für die APP VISION 27 sind ab sofort offen.

Responsible by Design - auch mit KI?

Jan: Auf der APP VISION 2026 hast du dein Responsible by Design Framework vorgestellt. In diesem Jahr ist KI-Entwicklung zum Standard geworden. Inwiefern challengt das die Prinzipien, die du in deinem Talk angesprochen hast?

Mira: KI wird nicht nur besser im Programmieren, sondern vor allem darin, ihre eigenen Fehler zu beheben. Dadurch wird es scheinbar immer unnötiger, dass ein Mensch wirklich versteht, was da gebaut wurde. Damit verschiebt sich die Verantwortung weg von der einzelnen Codezeile, hin zum Entwicklungs-Setup und zur Frage, welcher KI und welcher Firma dahinter wir das überhaupt anvertrauen wollen. Digitale Souveränität wird deshalb noch ein sehr großes Thema, nicht nur, weil wir weniger abhängig sein wollen, sondern auch weil in Europa sinnvolle, strengere Regeln gelten.

Jan: Fast jedes KI-Feature hängt heute an einem großen US-Modellanbieter. In deinem Talk hast du gefragt, von wem wir uns abhängig machen und ob wir damit gut leben können. Wie beantwortest du diese Frage heute im Gespräch mit Kunden, und macht es dabei einen Unterschied, ob du mit einem B2B- oder B2C-Team sprichst? Sind europäische oder selbst gehostete Modelle für euch schon eine echte Alternative?

Mira: Viele unserer Kunden kommen aus dem kommunalen Bereich, der Medizin oder auch aus der Bildung, wo es um Kinderdaten geht. Dort gelten automatisch die höchsten Datenschutzstandards und eine ChatGPT-API ist gar keine Option, das ist unseren Kunden selbst klar. In unseren bisherigen Projekten haben wir deshalb selbst gehostete Open-Source-Modelle eingebunden und für die Funktionen, die wir brauchten, hat das gut funktioniert. Europäische Anbieter wie Mistral finde ich spannend, und die offenen Modelle entwickeln sich gerade enorm schnell.

Ein selbst gehostetes Modell löst aber nur einen Teil der Frage, nämlich wo die Daten bleiben. Man übernimmt trotzdem die Werte und blinden Flecken aus dem Training. Souveränität heißt für mich deshalb auch: Wessen Weltbild steckt im Modell?

Ob B2B oder B2C macht für mich weniger den Unterschied als die Art der Daten. Wer mit Gesundheits- oder Kinderdaten arbeitet, braucht die höchsten Standards, egal, wer die App am Ende nutzt.

Jan: KI-Assistenten werden umso hilfreicher, je mehr Kontext sie über den User haben. Verschwimmt dadurch die Grenze zwischen Daten, die der Nutzbarkeit dienen, und Profiling? Und ist diese Grenze im Consumer-Bereich eine andere als im Enterprise-Umfeld?

Mira: Datenschutz hat für mich zwei Seiten. Die eine ist der Schutz davor, dass Unternehmen oder Regierungen Daten missbrauchen. Die andere ist Souveränität über die eigenen Daten: dass ich sie herausholen kann, dass sie nicht plötzlich weg sind und dass ich den Anbieter wechseln kann.

Genau da entsteht bei KI-Assistenten gerade ein neuer Lock-in: “Ich kann nicht wechseln, weil ChatGPT schon alles über mich weiß.” Privat würde ich deshalb darauf achten, den eigenen Kontext außerhalb der KI aufzubauen, als eine Art Second Brain, auf das man verschiedenen KI-Agenten nach Bedarf Zugriff geben kann. Dann bleiben die Daten bei mir, und ich bleibe unabhängig.

Im Enterprise-Umfeld kommt es noch stärker darauf an, wem die KI gehört. Kundendaten oder sensible Mitarbeiterdaten gehören für mich nicht in eine US-amerikanische KI. Entscheidend ist, dass es vernünftig aufgesetzt ist: kein Training mit Kundendaten, Verarbeitung in der EU, Anbieter unter EU-Recht. Wie wichtig das inzwischen ist, sieht man an Langdock: Die Berliner KI-Plattform hat gerade ihre US-Holding aufgegeben und ihren Sitz nach Deutschland verlegt, offenbar, weil Unternehmenskunden genau das zunehmend eingefordert haben. Digitale Souveränität ist kein Nischenthema mehr, sondern ein Verkaufsargument für deutsche Softwarefirmen.

Jan: Chatbots und KI-Begleiter binden Menschen nicht mehr über Push-Nachrichten, sondern über Gespräche, die sich persönlich anfühlen. Funktioniert deine Leitfrage “Würde ich meinen Kindern diese App in die Hand geben?” da noch, oder braucht es eine neue?

Mira: Die Leitfrage funktioniert noch, sie wird sogar schärfer. Bei einer KI, die sich als Freund, Therapeutin, romantischer Partner oder Mentor präsentiert, wäre meine Antwort ein klares Nein, das würde ich meinem Kind nicht in die Hand geben. Besonders gefährdet sind Menschen, die jung, einsam oder psychisch belastet sind, und das sind sehr viele. Wir haben bereits tragische Fälle gesehen, die mit KI-Chatbots in Verbindung gebracht werden.

Ich finde es übrigens auch generell schwierig, KI zu anthropomorphisieren. Wir Menschen haben da eine Tendenz zu, aber es ist meiner Meinung nach nicht hilfreich, weder persönlich, weil es am Problem vorbeigeht, noch gesellschaftlich, weil wir gerade viele wichtige Entscheidungen in Bezug auf KI treffen und eine Vermenschlichung von tatsächlichen Vorteilen und Gefahren dieses Tools ablenkt. Sowohl die KI, die sich im Chat wie ein Freund gibt, als auch die Doomsday-Szenarien von der übermächtigen KI erzeugen vor allem Hype und lenken davon ab, dass Menschen diese Systeme bauen und für sie verantwortlich sind.

Ich sehe, warum etwa KI-gestützte Therapie-Apps naheliegen. Aber Beziehungen sind genau der Bereich, in dem wir Menschen nicht durch KI ersetzen sollten. Service, klar. Aber wenn KI in Therapie, Pflege oder Erziehung eingesetzt wird, dann bitte so, dass sie den dort arbeitenden Menschen mehr Zeit für menschliche Begegnung gibt und nicht diese ersetzt. Als App-Entwicklerin finde ich es ansonsten fragwürdig, solche Produkte zu unterstützen, und habe auch schon Anfragen in diese Richtung bewusst abgelehnt.

Jan: Wenn du dein Framework heute neu schreiben würdest: Gibt es einen Bereich, den du ergänzen würdest, zum Beispiel Transparenz darüber, wann ein User mit einer KI interagiert? Oder gibt es einen, der an Bedeutung verloren hat?

Mira: Ich glaube, das Framework steht. Alle sechs Bereiche sind heute so relevant wie damals, eher noch relevanter:

• Daten & digitale Souveränität: Daten für Menschen statt über Menschen, verarbeitet in der EU und unter EU-Recht.
• Dark Patterns: Bindung durch Nutzen statt durch Abhängigkeit, bei KI-Begleitern wichtiger denn je.
• Digitale Teilhabe: Auch Menschen mit wenig digitaler Erfahrung sollen den Kern einer App ohne Hilfe nutzen können.
• Diversität & blinde Flecken: mit Menschen entwickeln und testen, die die echten Lebensrealitäten der Nutzer:innen abbilden.
• Digitale Lieferkette: Wovon und von wem machen wir uns abhängig, und können wir damit leben? Bei KI-Modellen eine zentrale Frage.
• Nachhaltigkeit: Funktion mit möglichst wenig Ressourcen. Schon damals habe ich gefragt: Brauche ich wirklich diese KI? Mit den US-Protesten gegen Datenzentren ist diese Frage gerade in aller Munde.

Ergänzen würde ich vielleicht noch Transparenz. Digitales sollte sich klar als nicht menschlich zu erkennen geben. Der AI Act schreibt die Kennzeichnung von Chatbots inzwischen vor, für mich geht es aber weiter als ein Hinweis im Kleingedruckten. Eine KI sollte auch im Ton und im Design nicht vorgeben, etwas zu sein, was sie nicht ist. Let’s do it:

• Transparenz: Digitale Tools nicht vermenschlichen und klar kennzeichnen, was KI generiert ist.

Wir alle tragen Verantwortung dafür, wohin sich unsere Branche entwickelt, und mit ihr der Alltag vieler Menschen und unsere Umwelt. Den Talk von Mira auf der APP VISION 26 gibt es hier zum Nachsehen.

Es ist so weit: Die Anmeldung für die APP VISION 27 am 28. Januar 2027 ist ab heute geöffnet, sowohl für das Live-Event in Berlin als auch für die Online-Teilnahme. Die Plätze vor Ort sind begrenzt und werden kuratiert. Schnell sein lohnt sich: Die ersten 10 Anmeldungen für das Live-Event erhalten einen garantierten Platz.

Updates zu Speaker:innen und zum Programm werden in den kommenden Wochen und Monaten auf unserer Webseite veröffentlicht. Stay tuned!

iPhone Duo: Zwischen Guidelines und Realität

Apple hat das iPhone gefaltet und seit dem 23. Oktober ist es im Handel.
Im September haben wir bereits die wichtigsten Design Guidelines zusammengefasst. Letzte Woche war Solutions Architect Benni, Hybrid Heroes, beim Apple Developer Workshop in Berlin und hat dort das erste Mal direkt mit dem Gerät gearbeitet. Hier sind seine größten Learnings:

Die Transition ist kein Problem

Was auf dem Simulator wie eine offene Frage wirkt, löst sich am echten Gerät in Luft auf. Der Wechsel zwischen äußerem und innerem Display ist smooth und fühlt sich durchdacht an. Apple hat dort offensichtlich viel Arbeit reingesteckt.

Sheets und Overlays sind die kritischsten Stellen

Popups, Menüs und Formulare, also alle Elemente die sich über den Bildschirminhalt legen, verhalten sich beim Wechsel zwischen den beiden Displays oft nicht wie erwartet. Sie erscheinen neu, brechen auseinander oder passen sich nicht an die neue Bildschirmgröße an. Was das Gerät dabei sichtbar macht, sind meistens keine neuen Probleme, sondern Dinge, die vorher schon da waren und bisher nicht aufgefallen sind. Dazu kommt: Wenn das Gerät aufgeklappt wird und die App plötzlich mehr Platz hat, aktualisieren sich bestimmte Inhalte nicht automatisch, weil die App sich nicht merkt, dass sie neu berechnen muss.

Die minimalen Schritte, die sich jetzt lohnen

Mit Xcode 27.1 bauen: der Compatibility Mode aus Version 26 sieht auf dem Duo nicht gut aus. Dann die Native Tab Bar einsetzen, sie löst viele Positionierungsfragen automatisch, ohne dass man Foldable-Logik selbst implementieren muss. Und Safe Areas einmal systematisch am echten Gerät überprüfen, nicht nur im Simulator.

Ab April wird es Pflicht

Apple hilft nach. Ab April nächsten Jahres werden Duo-Screenshots im App Store Pflicht, was bedeutet, dass sich jedes Team früher oder später damit auseinandersetzen muss. Ob dann auch gezielt für das innere Display gebaut wird, ist eine andere Frage: Das wird erst passieren, wenn der Marktanteil steigt und es sich wirtschaftlich lohnt. Vorerst werden spezifische Duo-Features eher von iOS-only Apps kommen oder als Marketing-Maßnahme genutzt werden.

Persönliches Fazit

Die Verarbeitung ist hochwertig und es fühlt sich nach Apple an. Aber wenn man Preis, Gewicht und Dicke zusammennimmt und dazu noch keinen wirklichen Anwendungsfall für das innere Display findet, der einen persönlich überzeugt, dann fällt die Entscheidung im Moment eher dagegen aus. Wobei ich mir auch kein anderes Foldable kaufen würde.

Das iPhone Duo wird App-Teams nicht sofort vor große Entscheidungen stellen. Aber ab April gibt es keine Wahl mehr, als sich damit auseinanderzusetzen. Viele der Probleme, die das Duo sichtbar macht, schlummern in Apps, die bisher einfach nie auf einem ungewohnten Bildschirm gelaufen sind.

Wer früh anfängt, verschafft sich bis zum Frühjahr einen Vorteil.

Das war’s für heute. Falls du dir deinen Platz noch nicht gesichert hast: Die Anmeldung über Luma ist geöffnet. Wir hoffen, dich am 28. Januar auf der APP VISION 27 zu sehen, ob live in Berlin oder online.

Bis bald!
Jan und das APP VISION Team