La carrera de Marley comenzó con un interés por la electrónica. Como joven becario en los estudios Unique Recording a principios de los 80, tuvo la oportunidad de experimentar con samplers muy caros como el Fairlight CMI. Un día, durante una sesión de estudio con un artista llamado Captain Rock, descubrió el sampling por accidente.
«En realidad estaba intentando sacar un riff de un disco. Cometí un error y metí la caja antes de que llegara el sonido. Estaba truncando la parte vocal pero la caja estaba sonando con el ritmo – estábamos truncando mientras el ritmo estaba sonando. Gracias a Dios que el ritmo estaba sonando, porque probablemente no habría ocurrido si el ritmo no estuviera sonando. Así que lo estaba tocando y la caja sonaba mejor que la caja que tenía de la caja de ritmos cuando la estaba pinchando».
Poco tiempo después, el DJ pionero del hip-hop en la radio, Mr. Magic, escuchó la remezcla de Marley Marl del tema Buffalo Gals de Malcolm McLaren, lo que hizo que Marley se convirtiera en su DJ. En 1983 fundaron juntos el colectivo de hip-hop Juice Crew. En 1986 se fundó Cold Chillin’ Records, donde Marley actuó como productor interno de muchos proyectos. Ganaba 250.000 dólares al año por su trabajo de producción. El sello también fue el hogar de muchos artistas de Juice Crew.
Marley tuvo su gran oportunidad en 1984, con el éxito de la artista Roxanne Shante «Roxanne’s Revenge». En una entrevista de 2008, Shante señaló la seriedad con la que se tomaba la grabación a pesar de su limitada configuración. «Grabábamos en su salón con un carrete y cuatro pistas. En realidad, sólo quería ir al centro comercial después de una toma, pero Marley siempre me obligaba a hacerlo de nuevo».
Otro de los primeros discos importantes fue «Marley Marl Scratch», de 1985, con MC Shan. La canción se grabó en una grabadora de casete de cuatro pistas y Shan utilizó un micrófono con una bola perdida para grabar su letra.
Varios de sus primeros discos presentan un uso inventivo de la caja de ritmos Roland TR-808. En el sencillo Pop Art de MC Shan de 1986, «The Bridge’, que luego apareció en su álbum Down By Law de 1987, Marley utilizó el pulso de la 808 para disparar diferentes samplers. Según Biz Markie, el botón del 808 de Marley se atascó durante la grabación de su éxito «Make the Music with Your Mouth, Biz», lo que dio lugar al sonido que se escucha hoy en el disco. El miembro de Juice Crew, Big Daddy Kane, alabó su capacidad para emparejar los sonidos de la batería del 808 con los de la batería muestreada. «Independientemente de lo limpio o nuevo que fuera el disco que sampleaba, o de lo ligera que fuera la producción, siempre le daba un toque realmente arenoso cuando lo sampleaba. Siempre le ponía el 808 y le daba un fondo pesado y una sensación de calidez».
A finales de la década de 1980, Juice Crew recibió una mayor atención por parte de las principales publicaciones. La revista Spin escribió: «han producido parte de la música más dura e inflexible del género». Por aquel entonces, Marley comenzó una racha de producción de álbumes enteros para varios miembros de Juice Crew. Produjo todos los temas de Craig G’s The Kingpin (1989), Big Daddy Kane’s Long Live The Kane (1988), Biz Markie’s Goin’ Off (1988), Kool G Rap & DJ Polo’s Road to the Riches (1989), MC Shan’s Down By Law (1987) y Born to Be Wild (1988), y Roxanne Shante’s Bad Sister (1989).