이탈리아의 범죄조직들은 약 3000년 동안 이탈리아 역사 속의 수많은 정복 군대의 침략과 착취 기간을 지나며 진화하기 시작했다. 이러한 이탈리아의 지하 사회는 처음에 침략자들에 대한 저항 운동으로서 형성되었고 침략에 대한 저항으로 인한 정의의 표상이자 상징이기도 했다. 마피아(Mafia)는 지배자들의 억압에 대항하는 자경단원들의 정의를 명확히 하기 위해 형성된 것으로 그 역사가 시작된다. 시칠리아는 수백 년간 다양한 세력의 외침을 겪고 지배를 받았으며 1130년 시칠리아 왕국이 세워진 이후로도 중세 말기부터 600년간 스페인 계열 왕족의 지배로 인해 건설된 시칠리아 공국의 통치로 이루어졌다. 물론 근세까지 이어진 상류층에 의해 자행된 봉건화, 외세인 스페인과 프랑스의 지원을 받는 귀족들, 그리고 이 상류층들과 하류층 사이의 연결 고리 역할을 하는 중간 계층에서 만연해진 부패는 시칠리아 하류층들이 고통과 부담을 가중시켰고 이들로 하여금 각종 범죄조직(Brigantaggio)에 가담하게 했다.

이들은 귀족과 영주들을 공격하여 약탈했으며 이러한 범죄조직에 대항해 영주들도 자신들 만의 사조직을 운영하기도 했다. 이와 같은 일련의 과정들을 통해 차츰 마피아의 원형이 등장하게 된다. 물론 이탈리아 전역에 꽤 오래된 잔존 범죄 조직들이 각자 자리를 잡게 되었지만, 그 중에서도 가장 특기할만한 조직인 코사 노스트라(Cosa Nostra)가 시칠리아 섬에 형성되었고 시칠리아의 거주민들은 수 천년 동안 침략의 역사를 거치면서 더욱 검소해지게 되면서 안전, 보호, 정의, 생존을 위해 가족의 유대에까지 이 조직에 의존하기 시작했다. 시칠리아의 토착 무력 집단으로 출발한  마피아 자경단들은 더욱더 폐쇄적인 성격을 갖게 되었고 나아가 19세기 중반을 경계로 하여 자신들의 이익을 위해 폭력을 휘두르는 범죄 집단으로 변하게 된다. 즉 이와 같은 조직폭력배스러운 현대적인 마피아의 최초 등장은 보통 1800년대로 보고 있는 것이 정설이다. 

또한 현대적인 마피아들은 대토지 지주들 위주의 사회였던 19세기 시칠리아의 중간 토착 임대농 세력인 가벨로토(Gabellotto)들이 고용한 자경단 캄피에로(Campiero)들로부터 주로 기원한 것으로 보고 있다. 또 다른 현대식 마피아의 등장 설은 19세기 말 시칠리아의 레몬 농업이 발달하자 도적떼들이 기승을 부렸는데 이들로부터 농장을 지키기 위해 가벨로토(Gabellotto)들이 마피아로 발전했다고 한다. 물론 가벨로토와 관련하여 나타난 기사인 레몬 뿐만 아니라 여타 감귤 종류, 오렌지 농업에도 시칠리아에서 중요한 농작물이었기 때문에 이를 보호할 자경단이 필요한 입장이었다. 이에 2012년에 발표된 나폴리 학회의 <근대 이탈리아 사회 현상 연구>에 의하면 레몬 수출이 마피아의 성립에 큰 영향을 주었고 이를 수출하는 과정을 독점하는 기업형 조직으로 일찍 진화했다는 발표도 존재했다. 더불어 마피아들은 이탈리아 인으로서 국교인 카톨릭을 믿었으며, 이러한 과정에서 그들이 서로 종교적 혈연을 맺는 경우가 생겼다.

거기에 더해 카톨릭의 교회 용어들이 마피아 사회로 유입되는 경우까지 발생했다. "영성체(Communio)", "견진성사(Confirmatio)" 등이 대표적인 용어로 이 단어들은 마리오 푸조(Mario Puzo, 1920~1999)의 소설인 <대부(Godfather)>에서도 종종 인용될 정도였다. <대부(Godfather)>에서는 사람들이 비토 콜레오네의 손등에 입을 맞추는 장면은 마치 카톨릭 신자들이 교황의 손등에 입을 맞추는 행위와 흡사한 부분이다. 당시 마피아 조직들은 이탈리아 왕국이 국력을 확장하는 것과 역사적인 맥락을 같이 하여 정치, 경제, 사법에 걸쳐 세력을 확장했고, 결국 19세기에서 20세기로 넘어가는 시점에 이르러서는 전국적인 조직으로 변모하게 된다. 이러한 이탈리아 인들이 이민 러쉬가 이루어지게 되자 이를 이용하여 사업을 확장하려는 마피아들이 미국에 진출하게 된 것도 이 시기로 점철된다.

1920년대 베니토 무솔리니가 이탈리아를 통치하던  파시스트 정권 시기에는 시칠리아에서의 이탈리아 정부의 통치 세력을 강고히 하기 위해 1925년부터 검찰과 경찰, 군대까지 동원해 마피아에 대한 탄압을 시작하게 된다. 이에 마피아들은 미국으로부터 자객들과 각종 무기들까지 수입하며 파시스트 정부군에 저항했으나, 강력한 파시스트 정부의 무력 앞에서는 역부족이었다. 그리고 제2차 세계 대전 직전까지는 시칠리아 마피아 조직원들이 대부분이 수감되거나 정부의 단속을 피해 더 지하로 파고 어가 숨어 냈고 나머지 조직원들은 자신들의 동료 조직원들이 사는 미국으로 망명하게 된다. 그로 인해 이러한 현상들을 두고 역사학계에서는 세계대전 이전 세대의 몰락으로 보는 시각도 가지고 있다. 당시 파시스트 정권의 강권 통치로 인해 시칠리아의 범죄율은 1/10 이하로 떨어졌으며 심지어 일부 지역에서는 시칠리아가 가장 살기 좋았던 시절이 무솔리니의 통치 시절이었다고 회상할 정도였다.

19세기 후반과 20세기 초에 시칠리아와 다른 이탈리아 지역에서 미국과 캐나다, 호주 등으로 조직원들이 이주하거나 파시스트 정권을 피해 도주한 조직원들이 그 나라둘에서 과거 자신들의 조직들이 창조해 낸 범죄 수법들을 재현하기 시작했다. 미국의 경우, 기존의 미국인들이 이탈리아계 이민자들을 박대했기 때문에 그들은 자신들의 목소리를 낼 대표적인 단체를 원하기도 했다. 미국 내 이탈리아 이민자들에 대한 차별이 극심화되자 이탈리아 이주 사회가 자신들을 보호하기 위해 스스로 범죄적인 요소를 첨가하게 하는 것에 촉진시키는 촉매제 역할을 하는 셈이 되었다. 수백년 동안 이탈리아의 역사를 통해 이미 구축되어 있었던 범죄 조직들의 구조와 조직원들 간의 충성심을 적절하게 이용한 이탈리아계 미국 마피아가 동포 사회를 보호하는 것으로부터 시작해 나중에는 그 사회를 착취하게 된다. 또한 이탈리아계 이민자 공제회, 상업 조직 같은 단체들이 생겨났고 이 단체들은 마피아들 자금력의 원천이 되었다.