Chỉ cần gõ localhost không thôi thử xem nó có ra màn hình chào Apache mặc định hay It works! gì không đã rồi mới tính tiếp. Ubuntu phiên bản bao nhiêu? Apache phiên bản 2.2 hay 2.4?
Và file index.php làm xong thì đặt ở đâu? Thư mục của Apache có chỉnh chọc gì file config chưa hay là vẫn còn nguyên ở /var/www/html ? Nếu đã chuyển đi nơi khác, chú ý xem phân quyền (liên quan đến chmod và chown) của file thử xem file đang thế nào?
À, mà quên, đã cái đủ LAMP chưa hay mới chỉ có Apache không thôi đấy? Gõ trên Terminal lệnh php --version xem nó ra cái gì?
Về mặt lý thuyết, nếu bạn vừa cài xong LAMP và nó hoạt động, file index.php của bạn sẽ phải đặt ở /var/www/html , còn đặt chỗ khác nó báo lỗi 404 như trên không có gì lạ.