"Deux victimes sont décédées par arme blanche", a déclaré à l'AFP Olivier de Mazières.
L'attaque a eu lieu vers 13H45 (11h45 GMT). L'assaillant "aurait crié Allah Akbar" en passant à l'acte, selon une source proche de l'enquête, qui envisage la piste terroriste.
L'assaillant a été abattu par les militaires de l'opération Sentinelle, a précisé le procureur de la République Xavier Tarabeux.
La police a de son côté demandé aux Marseillais d'éviter le secteur de la gare Saint-Charles, une importante opération étant en cours en début d'après-midi.
Le ministre de l'Intérieur Gérard Collomb a annoncé sur Twitter qu'il se rendait "immédiatement" à Marseille "après l'attaque perpétrée à proximité de la gare Saint Charles".
La section antiterroriste du parquet de Paris s'est saisie de l'enquête, ouverte notamment pour "assassinats en relation avec une entreprise terroriste" et "tentative d'assassinat sur personne dépositaire de l'autorité publique". Elle a été confiée à la Direction centrale de la police judiciaire (DCPJ) et à la Direction générale de la sécurité intérieure (DGSI), a précisé le parquet.