Tháng 7-1936, Ban Chấp hành Trung ương Đảng và Ban Chỉ huy ở ngoài họp Hội nghị tại Thượng Hải (Trung Quốc), dưới sự chủ trì của Lê Hồng Phong và Hà Huy Tập. Hội nghị quyết định cử đồng chí Hà Huy Tập về nước để khôi phục các tổ chức Đảng ở trong nước. Xuất phát từ đặc điểm tình hình Đông Dương và thế giới, vận dụng Nghị quyết Đại hội VII của Quốc tế Cộng sản, Hội nghị xác định cách mạng ở Đông Dương vẫn là "cách mạng tư sản dân quyền - phản đế và điền địa - lập chính quyền của công nông bằng hình thức Xôviết, để dự bị điều kiện đi tới cách mạng xã hội chủ nghĩa". Song xét rằng cuộc vận động quần chúng hiện thời cả về chính trị và tổ chức chưa tới trình độ trực tiếp đánh đổ đế quốc Pháp, lập chính quyền công nông, giải quyết vấn đề điền địa.

Yêu cầu cấp thiết trước mắt của nhân dân ta là tự do, dân chủ, cải thiện đời sống. Đảng phải nắm lấy những yêu cầu đó để phát động quần chúng đấu tranh, tạo tiền đề đưa cách mạng tiến lên bước cao hơn sau này. Hội nghị chỉ rõ kẻ thù trước mắt nguy hại nhất của nhân dân Đông Dương cần tập trung đánh đổ là bọn phản động thuộc địa và bè lũ tay sai của chúng. Từ đó Hội nghị xác định những nhiệm vụ trước mắt là chống phát xít, chống chiến tranh đế quốc, chống bọn phản động thuộc địa và tay sai, đòi tự do, dân chủ, cơm áo và hòa bình; "lập Mặt trận nhân dân phản đế rộng rãi chính để bao gồm các giai cấp, các đảng phái, các đoàn thể chính trị và tín ngưỡng tôn giáo khác nhau, các dân tộc ở xứ Đông Dương để cùng nhau tranh đấu để đòi những điều dân chủ đơn sơ"

"Mặt trận nhân dân phản đế là cuộc liên hợp hết các giai cấp trong toàn dân tộc bị áp bức đang tranh đấu đòi những đều quyền lợi hằng ngày cho toàn dân, chống chế độ thuộc địa vô nhân đạo, để dự bị điều kiện cho cuộc vận động dân tộc giải phóng được phát triển"

Để cô lập và chĩa mũi nhọn đấu tranh vào bọn phản động thuộc địa và tay sai của chúng, đòi các quyền dân chủ, dân sinh, không những phải đoàn kết chặt chẽ với giai cấp công nhân và Đảng Cộng sản Pháp, "ủng hộ Mặt trận nhân dân Pháp", mà còn đề ra khẩu hiệu "ủng hộ Chính phủ Mặt trận nhân dân Pháp" để cùng nhau chống lại kẻ thù chung là bọn phátxít ở Pháp và bọn phản động thuộc địa.

Hoàn cảnh mới, chủ trương mới đòi hỏi phải có một đường lối tổ chức mới. Vì vậy, Hội nghị chủ trương phải chuyển hình thức tổ chức bí mật không hợp pháp sang các hình thức tổ chức và đấu tranh công khai, nửa công khai, hợp pháp và nửa hợp pháp, nhằm làm cho Đảng mở rộng sự quan hệ với quần chúng, giáo dục, tổ chức và lãnh đạo quần chúng đấu tranh bằng các hình thức và khẩu hiệu thích hợp.

Trong khi tranh thủ mở rộng các hình thức tổ chức đấu tranh công khai và hợp pháp, tránh sa vào chủ nghĩa công khai, mà phải giữ vững nguyên tắc củng cố và tăng cường tổ chức và hoạt động bí mật của Đảng, giữ vững mối quan hệ giữa bí mật và công khai, hợp pháp với không hợp pháp và phải bảo đảm sự lãnh đạo của tổ chức Đảng bí mật đối với những tổ chức và hoạt động công khai hợp pháp. Tháng 10-1936, Trung ương Đảng được tổ chức lại do đồng chí Hà Huy Tập làm Tổng Bí thư

Cùng với việc đề ra chủ trương mới để lãnh đạo nhân dân thành lập Mặt trận nhân dân rộng rãi, đấu tranh đòi các quyền dân chủ, dân sinh, Ban Chấp hành Trung ương Đảng đã đặt vấn đề nhận thức lại mối quan hệ giữa hai nhiệm vụ dân tộc và dân chủ, phản đế và điền địa trong cách mạng ở Đông Dương. Trong văn kiện Chung quanh vấn đề chiến sách mới công bố tháng 10-1936, Đảng nêu một quan điểm mới: "Cuộc dân tộc giải phóng không nhất thiết phải kết chặt với cuộc cách mạng điền địa. Nghĩa là không thể nói rằng: muốn đánh đổ đế quốc cần phải phát triển cách mạng điền địa, muốn giải quyết vấn đề điền địa thì cần phải đánh đổ đế quốc. Lý thuyết ấy có chỗ không xác đáng". Vì rằng, tùy hoàn cảnh hiện thực bắt buộc, nếu nhiệm vụ chống đế quốc là cần kíp cho lúc hiện thời, còn vấn đề điền địa tuy quan trọng nhưng chưa phải trực tiếp bắt buộc, thì có thể trước hết tập trung đánh đổ đế quốc, rồi sau mới giải quyết vấn đề điền địa. Nhưng cũng có khi vấn đề điền địa và phản đế phải liên tiếp giải quyết, vấn đề này giúp cho vấn đề kia làm xong mục đích của cuộc vận động. Nghĩa là cuộc phản đế phát triển tới trình độ võ trang tranh đấu kịch liệt, đồng thời vì muốn tăng thêm lực lượng tranh đấu chống đế quốc, cần phải phát triển cuộc cách mạng điền địa. "Nói tóm lại, nếu phát triển cuộc tranh đấu chia đất mà ngăn trở cuộc tranh đấu phản đế thì phải lựa chọn vấn đề nào quan trọng hơn mà giải quyết trước. Nghĩa là chọn địch nhân chính, nguy hiểm nhất, để tập trung lực lượng của một dân tộc mà đánh cho được toàn thắng". Đó là nhận thức mới phù hợp với tinh thần trong Cương lĩnh cách mạng đầu tiên của Đảng, bước đầu khắc phục hạn chế của Luận cương chính trị tháng 10-1930.

Mặt trận nhân dân phản đế do Đảng đề ra là cuộc liên hiệp các giai cấp trong các dân tộc ở Đông Dương đấu tranh đòi quyền lợi hàng ngày, chống lại chế độ thuộc địa vô nhân đạo của thực dân Pháp, chuẩn bị điều kiện cho cuộc vận động dân tộc phát triển. Những người cộng sản Đông Dương chính là con cháu của các dân tộc ở Đông Dương - một xứ thuộc địa. Đảng Cộng sản Đông Dương là đảng duy nhất lãnh đạo toàn dân ta đấu tranh giành độc lập tự do, nên được nhân dân thừa nhận quyền lãnh đạo duy nhất. Vì vậy, Đảng cần phải phấn đấu là "đảng của dân chúng bị áp bức, đội tiền phong cho cuộc dân tộc giải phóng". Các Hội nghị của Ban Chấp hành Trung ương Đảng họp trong năm 1937 và 1938 đã tiếp tục giải quyết mối quan hệ giữa mục tiêu chiến lược với mục tiêu cụ thể trước mắt của cách mạng, đã đặt ra nhiệm vụ chính trị cụ thể của cách mạng trong một hoàn cảnh cụ thể, biết tập hợp rộng rãi những lực lượng chính trị dù là bé nhỏ, bấp bênh, tạm thời, sử dụng các hình thức tổ chức và đấu tranh linh hoạt, phù hợp với mục tiêu cụ thể nhằm động viên hàng triệu quần chúng lên trận tuyến đấu tranh cách mạng, chuẩn bị tiến lên những trận chiến đấu cao hơn, thực hiện mục tiêu chiến lược của cuộc cách mạng dân tộc dân chủ. Sự phát triển mạnh mẽ của phong trào quần chúng từ giữa năm 1936 trở đi khẳng định sự chuyển hướng chỉ đạo cách mạng đúng đắn. Song thực tiễn cách mạng diễn ra phong phú hơn, sinh động hơn, đòi hỏi Đảng phải theo dõi, bổ sung và hoàn chỉnh từng bước các chủ trương và biện pháp đấu tranh. Trên tinh thần đó, các Hội nghị lần thứ ba (tháng 3-1937) và lần thứ tư (tháng 9-1937) đã đi sâu hơn về công tác tổ chức của Đảng, quyết định phải chuyển mạnh hơn nữa về phương pháp tổ chức và hoạt động để tập hợp được đông đảo quần chúng trong mặt trận chống phản động thuộc địa, chống phátxít, đòi tự do, cơm áo, hòa bình. Tháng 3-1938, Ban Chấp hành Trung ương Đảng họp hội nghị toàn thể nhấn mạnh vấn đề lập mặt trận thống nhất dân chủ, coi đây là nhiệm vụ trung tâm của Đảng trong giai đoạn hiện tại. Hội nghị chủ trương phải sử dụng mọi hình thức để liên hiệp thật rộng rãi các tầng lớp dân chủ, các đảng phái. Để thực hiện nhiệm vụ ấy, Đảng chủ trương phải đấu tranh khắc phục những tư tưởng "tả" khuynh, cô độc hẹp hòi và những tư tưởng hữu khuynh trong việc nhận thức và chấp hành đường lối, phương pháp tổ chức và đấu tranh không phù hợp với nhiệm vụ chính trị mới. Hội nghị nhắc nhở phải kiên quyết, triệt để chống bọn tờrốtkít ở Đông Dương.

Hội nghị còn quyết định củng cố những cơ sở Đảng đã có, lập thêm cơ sở mới, chú trọng phát triển Đảng ở thành phố, ở các vùng công nghiệp tập trung và các vùng đồn điền, phải chấn chỉnh, củng cố các cơ quan lãnh đạo của Đảng từ Trung ương đến cơ sở, phải giữ đúng nguyên tắc trong quan hệ giữa bộ phận hoạt động bí mật và bộ phận hoạt động công khai của Đảng: "Bí mật với công khai là làm cho công tác của Đảng được thống nhất và chóng phát triển, vô luận công khai hay bí mật đều phải phục tùng cơ quan chỉ huy của Đảng". Hội nghị bầu đồng chí Nguyễn Văn Cừ làm Tổng Bí thư của Đảng thay đồng chí Hà Huy Tập.

Cuối năm 1938, từ Liên Xô, Nguyễn ái Quốc trở lại Trung Quốc. Người chú ý theo dõi và chỉ đạo phong trào cách mạng ở Đông Dương. Người nhắc nhở Trung ương Đảng cần nắm vững nhiệm vụ chủ yếu của cách mạng ở Đông Dương lúc này là đấu tranh đòi thực hiện các quyền tự do, dân chủ đơn sơ và cải thiện đời sống, đấu tranh để Đảng được hoạt động hợp pháp; không nên đưa ra những khẩu hiệu quá cao như độc lập dân tộc để đề phòng âm mưu của phátxít Nhật lợi dụng khẩu hiệu đó. Đảng phải tổ chức một mặt trận dân tộc dân chủ rộng rãi, mặt trận ấy không phải chỉ có nhân dân lao động tham gia mà còn phải lôi cuốn cả giai cấp tư sản dân tộc, không phải chỉ có người Đông Dương mà còn có cả những người Pháp tiến bộ ở Đông Dương nữa. Đảng không thể đòi hỏi Mặt trận thừa nhận quyền lãnh đạo của mình, mà phải tỏ ra là một bộ phận trung thành nhất, hoạt động nhất và chân thực nhất. "Chỉ trong đấu tranh và công tác hằng ngày, khi quần chúng rộng rãi thừa nhận chính sách đúng đắn và năng lực lãnh đạo của Đảng, thì Đảng mới giành được địa vị lãnh đạo". Đảng phải đấu tranh không khoan nhượng chống tư tưởng bè phái, phải chú ý tổ chức học tập để nâng cao trình độ lý luận chính trị cho đảng viên. Tháng 3-1939, Đảng ra bản Tuyên ngôn của Đảng Cộng sản Đông Dương đối với thời cuộc, nêu rõ họa phátxít đang đến gần, Chính phủ Pháp hiện đã nghiêng về phía hữu, đang ra sức bóp nghẹt tự do dân chủ, tăng cường bóc lột nhân dân và ráo riết chuẩn bị chiến tranh. Tuyên ngôn kêu gọi các tầng lớp nhân dân phải thống nhất hành động hơn nữa trong việc đòi các quyền tự do dân chủ, chống nguy cơ chiến tranh đế quốc. Mặc dù bọn cầm quyền thực dân đẩy mạnh đàn áp, khủng bố, những cuộc biểu dương lực lượng của đông đảo quần chúng không tổ chức được như những năm trước, nhưng phong trào đấu tranh của quần chúng công nhân và nông dân vẫn tiếp tục nổ ra, nhất là các cuộc đấu tranh của nông dân, tiểu thương chống lại chính sách tăng thuế. Số lượng tuy giảm nhiều, nhưng trình độ tổ chức và lãnh đạo các cuộc đấu tranh lại cao hơn.

Tháng 7 năm 1939, Tổng Bí thư Nguyễn Văn Cừ cho xuất bản tác phẩm Tự chỉ trích, nhằm rút kinh nghiệm về những sai lầm, thiếu sót của các đảng viên hoạt động công khai trong hoạt động tranh cử ở Hội đồng quản hạt Nam Kỳ (4-1939). Tác phẩm đã vượt qua giới hạn của vấn đề tranh cử, đi vào phân tích những vấn đề cơ bản về xây dựng Đảng, tổng kết kinh nghiệm cuộc vận động dân chủ của Đảng, nhất là về đường lối xây dựng Mặt trận dân chủ Đông Dương, một vấn đề chính trị trung tâm của Đảng lúc đó. Tác phẩm Tự chỉ trích chẳng những có tác dụng lớn trong cuộc đấu tranh để khắc phục những lệch lạc, sai lầm trong phong trào vận động dân chủ, tăng cường đoàn kết nhất trí trong nội bộ Đảng, mà còn là một văn kiện lý luận quan trọng về xây dựng Đảng, về công tác vận động thành lập mặt trận thống nhất rộng rãi trong đấu tranh cách mạng ở Việt Nam.