You can open a so called 'Basiskonto'/ basic account at a bank of your choice even without a registration letter. Please find the respective legal text below:
„Ein Institut, das Zahlungskonten für Verbraucher anbietet (Verpflichteter), hat mit einem Berechtigten einen Basiskontovertrag zu schließen, wenn dessen Antrag die Voraussetzungen des § 33 erfüllt. Berechtigter ist jeder Verbraucher mit rechtmäßigem Aufenthalt in der Europäischen Union einschließlich Personen ohne festen Wohnsitz und Asylsuchende sowie Personen ohne Aufenthaltstitel, die aber aus rechtlichen oder tatsächlichen Gründen nicht abgeschoben werden können.“
English summary: Every individual with a legitimate stay in the EU is allowed to open a basic account. These individuals include persons with no permanent residence , asylum seeker or such with no residence title, who do not have to leave due to judicial or actual reasons.
Please find more detailed information on that in the following link:
English: