Support starting processes with a console on Windows 10.

By default we let the application inherit NSSM's console.  On Windows 10
Creators Update an application inheriting a console would fail to start with
error STATUS_DLL_INIT_FAILED.

Now we close our own console and call CreateProcess() with the
CREATE_NEW_CONSOLE flag if the application needs a console.

Unfortunately the ASCII art logo has to be sacrificed in the name of
progress...

diff --git a/console.cpp b/console.cpp
index b886021..2ec0008 100644 (file)
--- a/console.cpp
+++ b/console.cpp
@@ -21,156 +21,8 @@ bool check_console() {
   return false;\r
 }\r
 \r
-/* Helpers for drawing the banner. */\r
-static inline void block(unsigned int a, short x, short y, unsigned long n) {\r
-  HANDLE h = GetStdHandle(STD_OUTPUT_HANDLE);\r
-  TCHAR s = _T(' ');\r
-\r
-  unsigned long out;\r
-  COORD c = { x, y };\r
-  FillConsoleOutputAttribute(h, a, n, c, &out);\r
-  FillConsoleOutputCharacter(h, s, n, c, &out);\r
-}\r
-\r
-static inline void R(short x, short y, unsigned long n) {\r
-  block(BACKGROUND_RED | BACKGROUND_INTENSITY, x, y, n);\r
-}\r
-\r
-static inline void r(short x, short y, unsigned long n) {\r
-  block(BACKGROUND_RED, x, y, n);\r
-}\r
-\r
-static inline void b(short x, short y, unsigned long n) {\r
-  block(0, x, y, n);\r
-}\r
-\r
 void alloc_console(nssm_service_t *service) {\r
   if (service->no_console) return;\r
 \r
   AllocConsole();\r
-\r
-  /* Disable accidental closure. */\r
-  HWND window = GetConsoleWindow();\r
-  HMENU menu = GetSystemMenu(window, false);\r
-  EnableMenuItem(menu, SC_CLOSE, MF_GRAYED);\r
-\r
-  /* Set a title like "[NSSM] Jenkins" */\r
-  TCHAR displayname[SERVICE_NAME_LENGTH];\r
-  unsigned long len = _countof(displayname);\r
-  SC_HANDLE services = open_service_manager(SC_MANAGER_CONNECT);\r
-  if (services) {\r
-    if (! GetServiceDisplayName(services, service->name, displayname, &len)) ZeroMemory(displayname, sizeof(displayname));\r
-    CloseServiceHandle(services);\r
-  }\r
-  if (! displayname[0]) _sntprintf_s(displayname, _countof(displayname), _TRUNCATE, _T("%s"), service->name);\r
-\r
-  TCHAR title[65535];\r
-  _sntprintf_s(title, _countof(title), _TRUNCATE, _T("[%s] %s"), NSSM, displayname);\r
-  SetConsoleTitle(title);\r
-\r
-  /* Draw the NSSM logo on the console window. */\r
-  short y = 0;\r
-\r
-  b(0, y, 80);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(18, y, 5); r(28, y, 4); r(41, y, 4); r(68, y, 1);\r
-  R(6, y, 5); R(19, y, 4); R(29, y, 1); R(32, y, 3); R(42, y, 1); R(45, y, 3); R(52, y, 5); R(69, y, 4);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(8, y, 4); r(20, y, 1); r(28, y, 1); r(33, y, 3); r(41, y, 1); r(46, y, 3); r (57, y, 1);\r
-  R(9, y, 2); R(21, y, 1); R(27, y, 1); R(34, y, 1); R(40, y, 1); R(47, y, 1); R(54, y, 3); R(68, y, 3);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(12, y, 1); r(20, y, 1); r(26, y, 1); r(34, y, 2); r(39, y, 1); r(47, y, 2); r(67, y, 2);\r
-  R(9, y, 3); R(21, y, 1); R(27, y, 1); R(40, y, 1); R(54, y, 1); R(56, y, 2); R(67, y, 1); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(9, y, 1); r(20, y, 1); r(26, y, 1); r (35, y, 1); r(39, y, 1); r(48, y, 1); r(58, y, 1);\r
-  R(10, y, 3); R(21, y, 1); R(27, y, 1); R(40, y, 1); R(54, y, 1); R(56, y, 2); R(67, y, 1); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(9, y, 1); r(56, y, 1); r(66, y, 2);\r
-  R(11, y, 3); R(21, y, 1); R(26, y, 2); R(39, y, 2); R(54, y, 1); R(57, y, 2); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(9, y, 1); r(26, y, 1); r(39, y, 1); r(59, y, 1);\r
-  R(12, y, 3); R(21, y, 1); R(27, y, 2); R(40, y, 2); R(54, y, 1); R(57, y, 2); R(66, y, 1); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(9, y, 1); r(12, y, 4); r(30, y, 1); r(43, y, 1); r(57, y, 1); r(65, y, 2);\r
-  R(13, y, 2); R(21, y, 1); R(27, y, 3); R(40, y, 3); R(54, y, 1); R(58, y, 2); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(9, y, 1); r(13, y, 4); r(27, y, 7); r(40, y, 7);\r
-  R(14, y, 2); R(21, y, 1); R(28, y, 5); R(41, y, 5); R(54, y, 1); R(58, y, 2); R(65, y, 1); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(9, y, 1); r(60, y, 1); r(65, y, 1);\r
-  R(14, y, 3); R(21, y, 1); R(29, y, 6); R(42, y, 6); R(54, y, 1); R(58, y, 2); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(9, y, 1); r(31, y, 1); r(44, y, 1); r(58, y, 1); r(64, y, 1);\r
-  R(15, y, 3); R(21, y, 1); R(32, y, 4); R(45, y, 4); R(54, y, 1); R(59, y, 2); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(9, y, 1); r(33, y, 1); r(46, y, 1); r(61, y, 1); r(64, y, 1);\r
-  R(16, y, 3); R(21, y, 1); R(34, y, 2); R(47, y, 2); R(54, y, 1); R(59, y, 2); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(9, y, 1); r(16, y, 4); r(36, y, 1); r(49, y, 1); r(59, y, 1); r(63, y, 1);\r
-  R(17, y, 2); R(21, y, 1); R(34, y, 2); R(47, y, 2); R(54, y, 1); R(60, y, 2); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(9, y, 1); r(17, y, 4); r(26, y, 1); r(36, y, 1); r(39, y, 1); r(49, y, 1);\r
-  R(18, y, 2); R(21, y, 1); R(35, y, 1); R(48, y, 1); R(54, y, 1); R(60, y, 2); R(63, y, 1); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(26, y, 2); r(39, y, 2); r(63, y, 1);\r
-  R(9, y, 1); R(18, y, 4); R(35, y, 1); R(48, y, 1); R(54, y, 1); R(60, y, 3); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(34, y, 1); r(47, y, 1); r(60, y, 1);\r
-  R(9, y, 1); R(19, y, 3); R(26, y, 2); R(35, y, 1); R(39, y, 2); R(48, y, 1); R(54, y, 1); R(61, y, 2); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(8, y, 1); r(35, y, 1); r(48, y, 1); r(62, y, 1); r(71, y, 1);\r
-  R(9, y, 1); R(20, y, 2); R(26, y, 3); R(34, y, 1); R(39, y, 3); R(47, y, 1); R(54, y, 1); R(61, y, 1); R(69, y, 2);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  r(11, y, 1); r(26, y, 1); r(28, y, 5); r(39, y, 1); r(41, y, 5); r(51, y, 7); r(61, y, 1); r(66, y, 8);\r
-  R(7, y, 4); R(21, y, 1); R(29, y, 1); R(33, y, 1); R(42, y, 1); R(46, y, 1); R(52, y, 5); R(67, y, 7);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  y++;\r
-\r
-  b(0, y, 80);\r
-  y++;\r
 }\r

diff --git a/io.cpp b/io.cpp
index dd2641c..0ba7e18 100644 (file)
--- a/io.cpp
+++ b/io.cpp
@@ -305,6 +305,7 @@ void rotate_file(TCHAR *service_name, TCHAR *path, unsigned long seconds, unsign
 \r
 int get_output_handles(nssm_service_t *service, STARTUPINFO *si) {\r
   if (! si) return 1;\r
+  bool inherit_handles = false;\r
 \r
   /* Allocate a new console so we get a fresh stdin, stdout and stderr. */\r
   alloc_console(service);\r
@@ -316,6 +317,8 @@ int get_output_handles(nssm_service_t *service, STARTUPINFO *si) {
       log_event(EVENTLOG_ERROR_TYPE, NSSM_EVENT_CREATEFILE_FAILED, service->stdin_path, error_string(GetLastError()), 0);\r
       return 2;\r
     }\r
+\r
+    inherit_handles = true;\r\r
   }\r
 \r
   /* stdout */\r
@@ -341,6 +344,8 @@ int get_output_handles(nssm_service_t *service, STARTUPINFO *si) {
     }\r
 \r
     if (dup_handle(service->stdout_si, &si->hStdOutput, _T("stdout_si"), _T("stdout"))) close_handle(&service->stdout_thread);\r
+\r
+    inherit_handles = true;\r\r
   }\r
 \r
   /* stderr */\r
@@ -379,26 +384,15 @@ int get_output_handles(nssm_service_t *service, STARTUPINFO *si) {
     }\r
 \r
     if (dup_handle(service->stderr_si, &si->hStdError, _T("stderr_si"), _T("stderr"))) close_handle(&service->stderr_thread);\r
+\r
+    inherit_handles = true;\r\r
   }\r
 \r
   /*\r
     We need to set the startup_info flags to make the new handles\r
     inheritable by the new process.\r
   */\r
-  si->dwFlags |= STARTF_USESTDHANDLES;\r
-\r
-  if (service->no_console) return 0;\r
-\r
-  /* Redirect other handles. */\r
-  if (! si->hStdInput) {\r
-    if (dup_handle(GetStdHandle(STD_INPUT_HANDLE), &si->hStdInput, _T("STD_INPUT_HANDLE"), _T("stdin"))) return 8;\r
-  }\r
-  if (! si->hStdOutput) {\r
-    if (dup_handle(GetStdHandle(STD_OUTPUT_HANDLE), &si->hStdOutput, _T("STD_OUTPUT_HANDLE"), _T("stdout"))) return 9;\r
-  }\r
-  if (! si->hStdError)  {\r
-    if (dup_handle(GetStdHandle(STD_ERROR_HANDLE), &si->hStdError, _T("STD_ERROR_HANDLE"), _T("stderr"))) return 10;\r
-  }\r
+  if (inherit_handles) si->dwFlags |= STARTF_USESTDHANDLES;\r
 \r
   return 0;\r
 }\r

diff --git a/service.cpp b/service.cpp
index a18684e..c95da92 100644 (file)
--- a/service.cpp
+++ b/service.cpp
@@ -1875,11 +1875,12 @@ int start_service(nssm_service_t *service) {
     /* Set up I/O redirection. */\r
     if (get_output_handles(service, &si)) {\r
       log_event(EVENTLOG_ERROR_TYPE, NSSM_EVENT_GET_OUTPUT_HANDLES_FAILED, service->name, 0);\r
-      if (! service->no_console) FreeConsole();\r
+      FreeConsole();\r
       close_output_handles(&si);\r
       unset_service_environment(service);\r
       return stop_service(service, 4, true, true);\r
     }\r
+    FreeConsole();\r
 \r
     /* Pre-start hook. May need I/O to have been redirected already. */\r
     if (nssm_hook(&hook_threads, service, NSSM_HOOK_EVENT_START, NSSM_HOOK_ACTION_PRE, &control, NSSM_SERVICE_STATUS_DEADLINE, false) == NSSM_HOOK_STATUS_ABORT) {\r
@@ -1897,6 +1898,7 @@ int start_service(nssm_service_t *service) {
     if (si.dwFlags & STARTF_USESTDHANDLES) inherit_handles = true;\r
     unsigned long flags = service->priority & priority_mask();\r
     if (service->affinity) flags |= CREATE_SUSPENDED;\r
+    if (! service->no_console) flags |= CREATE_NEW_CONSOLE;\r\r
     if (! CreateProcess(0, cmd, 0, 0, inherit_handles, flags, 0, service->dir, &si, &pi)) {\r
       unsigned long exitcode = 3;\r
       unsigned long error = GetLastError();\r
@@ -1913,8 +1915,6 @@ int start_service(nssm_service_t *service) {
 \r
     close_output_handles(&si);\r
 \r
-    if (! service->no_console) FreeConsole();\r
-\r
     if (service->affinity) {\r
       /*\r
         We are explicitly storing service->affinity as a 64-bit unsigned integer\r