大連市は昔三山と呼ばれ、唐代には三山浦、明清時代には三山海口、青泥窪口と称した。1880年に清朝が大連湾北岸に砲台を築き、ようやく都市が形成され始めた。日清戦争後の1898年、三国干渉の代償として、清から関東州(大連、旅順など)を租借したロシアが、東清の終着駅を設け「ダーリニー」(遠い)と名づけた。旅順にある艦隊と要塞の物資をまとめるため、また貿易の拠点として、港の整備とパリをモデルにした都市づくりが始めた。
しかし、1904年に勃発した日露戦争により、同年5月末には日本軍が入城を果たし、戦後の1905年ポーツマス条約により日本に租借権が譲渡され。日本は古地図に見られる中国語の地名「大連湾」からとった「大連」を都市名として採用した。これはロシア名のダーリニーと発音が似ていることになる。
ロシアの租借地時代は、現在の大連駅から東側の区割りとごく一部の建築物ができた状態だった。日本は、大連を貿易都市として発展させるため、関東都督府と南満州鉄道にインフラの整備を続行させ、その結果、道路のアスファルト舗装や、レンガなど不燃建築物が立ち並ぶ町並みができあがる。大連駅とその駅前一帯が整備され、旧市街がほぼ現在の形になった。この時代の大連に関しては清岡卓行の『アカシヤの大連』をはじめとする一連の作品群において描かれていることでも有名である。
第2次世界大戦末期の1945年、日ソ中立条約破棄によりソ連軍が対日参戦、ソ連は大連を占拠した。同年9月に戦争終結後も、中ソ友好同盟条約に基づきソ連は大連港を旅順港や南満州鉄道と共に引き続き管理下になる。中華人民共和国に返還されるのは1951年のこと、このため、国共内戦では国民党側の支配下に入ることはなく、終始共産党側にあった。
1951年に旅順市を合併し、旅大市と改称したが、1981年に元の大連に名前が戻る。 1984年10月に大連経済特別開発区が着工され、あれ以来覚しい経済的発展を遂げ、現在は中国東北地区もっとも発展している都会となっている。